Geoffrey Hinton, el «padrino de la IA», ha dejado Google para hablar sobre los peligros de la IA

Uno de los pioneros del desarrollo de la inteligencia artificial moderna que ha sido llamado el «Padrino de la IA» está dando la voz de alarma sobre los peligros de dejar que esta tecnología se salga de control. Esa persona es Geoffrey Hinton. Hasta hace poco trabajaba en Google en proyectos de IA, pero ya no.

Como informa The New York Times , Hinton dejó Google, donde trabajaba desde 2013. Antes de su tiempo en la empresa, fue coautor de un artículo en 1986 que proponía un algoritmo para redes neuronales. Se le considera uno de los principales desarrolladores de aprendizaje profundo y, junto con otros dos investigadores, ganó el Premio Turing 2018 por su trabajo.

Sin embargo, Hinton ahora está preocupado por cómo el desarrollo de la IA ha ido mucho más lejos y más rápido de lo que predijo anteriormente. El lanzamiento repentino de programas de chatbot AI como ChatGPT , Bing Chat de Microsoft y Bard de Google podría ser el primer paso para que la IA se vuelva realmente más inteligente que los humanos que la programaron. Él afirmó:

“La idea de que estas cosas en realidad podrían volverse más inteligentes que las personas, algunas personas lo creían. Pero la mayoría de la gente pensó que estaba muy lejos. Y pensé que estaba muy lejos. Pensé que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso”.

En el futuro inmediato, Hinton cree que la IA podría crear imágenes «falsas profundas» de aspecto realista que podrían causar problemas con las personas que no pueden distinguir qué es falso y qué es real. En el futuro, cree que la IA no solo podría eliminar puestos de trabajo, sino incluso deshacerse de la humanidad misma, si la IA aprende a leer y escribir código por sí misma, sin intervención humana.

The New York Times informa que Hinton habló con el CEO de Google, Sundar Pichai, la semana pasada antes de su partida oficial, pero no hay información sobre lo que discutieron.

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.

— Geoffrey Hinton (@geoffreyhinton) May 1, 2023

En una publicación de Twitter hoy, Hinton declaró que no está tratando de criticar a Google, que cree que ha «actuado de manera muy responsable» con respecto al desarrollo de IA. Más bien, sintió que dejar la compañía le permitiría «hablar sobre los peligros de la IA sin considerar cómo esto afecta a Google». Jeff Dean, quien recientemente fue nombrado científico jefe de Google , respondió al artículo diciendo que la compañía está «comprometida con un enfoque responsable de la IA”.