La discusión sobre los riesgos de la inteligencia artificial sumó un nuevo capítulo luego de la renuncia de Jacob Coxon, un investigador que trabajó en Anthropic y OpenAI y que decidió abandonar la compañía por sus preocupaciones sobre el rumbo que está tomando el desarrollo de esta tecnología.
Coxon hizo pública su decisión a través de las redes sociales y sostuvo que las principales empresas del sector no están actuando de manera responsable. Según su planteo, la carrera por desarrollar sistemas cada vez más avanzados está dejando en segundo plano las medidas necesarias para garantizar su seguridad.
Sus declaraciones rápidamente generaron repercusión dentro de la industria. Otros investigadores de Anthropic coincidieron públicamente con algunas de sus advertencias y plantearon que el desarrollo de sistemas capaces de superar ampliamente las capacidades humanas podría representar riesgos extremos.
La respuesta de Elon Musk
Elon Musk se hizo eco de la polémica en X y cuestionó la autenticidad de las afirmaciones de Coxon. El empresario sugirió que el episodio podría formar parte de una estrategia para generar impacto alrededor de las advertencias sobre inteligencia artificial.
La reacción de Musk se produjo en medio de un debate cada vez más intenso sobre el futuro de la IA. El empresario es uno de los referentes tecnológicos que desde hace años advierten sobre los posibles riesgos de una inteligencia artificial avanzada, aunque en este caso puso en duda las motivaciones detrás del testimonio del exinvestigador de Anthropic.
Crece la preocupación dentro del sector
Coxon había trabajado durante varios años en el área de inteligencia artificial y explicó que decidió renunciar porque considera que compañías como Anthropic y OpenAI están priorizando la carrera tecnológica por encima de la seguridad.
En su mensaje, advirtió sobre la posibilidad de que los sistemas de IA alcancen capacidades muy superiores a las humanas durante los próximos años. Sus declaraciones fueron respaldadas por otros especialistas, entre ellos Evan Hubinger, responsable de investigación sobre alineación de Anthropic, quien estimó que existe una posibilidad superior al 10% de que la inteligencia artificial pueda provocar la extinción humana durante la próxima década.
El debate también sumó voces externas a las compañías. Geoffrey Hinton, uno de los principales referentes históricos del desarrollo de la IA y Premio Nobel de Física, consideró que una posibilidad de entre 10% y 20% de que la tecnología termine eliminando a la humanidad no resulta descabellada.
Mientras algunos expertos reclaman mayores controles y regulaciones para limitar los riesgos, otros consideran exageradas las previsiones más apocalípticas. En ese escenario, la renuncia de Coxon volvió a poner en primer plano una discusión que atraviesa a las principales empresas tecnológicas: hasta dónde avanzar con el desarrollo de la inteligencia artificial y qué medidas deberían adoptarse para evitar que sus capacidades escapen al control humano.
