El CEO de Anthropic pide a la industria frenar el ritmo de desarrollo de la inteligencia artificial
Dario Amodei, consejero delegado de Anthropic, ha reclamado a las empresas de inteligencia artificial que ralenticen el avance de las capacidades de sus modelos ante el temor a un uso indebido de la tecnología. Elon Musk y Sam Altman se han mostrado de acuerdo con la propuesta, que llega días después de la dimisión de un investigador de la compañía que alertó de riesgos existenciales.
Redacción Pamplona Exprés · · 2 MIN DE LECTURA
El consejero delegado de Anthropic, Dario Amodei, pidió el sábado a las compañías de inteligencia artificial que reduzcan el ritmo al que mejoran las capacidades de sus modelos, ante la creciente preocupación por los riesgos de un uso indebido de la tecnología. En un extenso ensayo publicado en la red social X, Amodei escribió que la industria debe frenar el avance de las capacidades de los sistemas de IA y aprovechar con criterio el tiempo que ese margen proporcione.
La propuesta, que Amodei describe como "marcar el ritmo de la frontera", no implica detener el desarrollo ni el entrenamiento de nuevos modelos, sino dedicar más tiempo a las pruebas de seguridad y al control de riesgos. El plan se articula en tres puntos: la incorporación de evaluadores independientes con acceso permanente y equiparable al de un empleado dentro de las principales empresas de IA; la coordinación entre las compañías que desarrollan los modelos más avanzados para fijar estándares de seguridad comunes; y la cooperación internacional para gestionar los riesgos de la tecnología, incluida la restricción de venta de chips avanzados de IA a países como China.
Elon Musk, al frente de xAI, y Sam Altman, consejero delegado de OpenAI, respondieron en la misma red social mostrando su acuerdo con el planteamiento de Amodei. La responsable de política de Anthropic, Sarah Heck, calificó la propuesta de "llamada a la acción importante" y pidió al Congreso estadounidense una ley que obligue a testar los modelos más potentes antes de su despliegue.
El ensayo de Amodei llega pocos días después de que Jacob Coxon, investigador de Anthropic, presentara su dimisión afirmando que quienes desarrollan inteligencia artificial creen, de forma sincera, que la tecnología podría suponer una amenaza existencial antes de que termine la década. Coxon acusó tanto a Anthropic como a OpenAI de asumir riesgos desproporcionados en la carrera por desarrollar modelos cada vez más avanzados. A ello se suma un informe de inteligencia de amenazas publicado por Anthropic la semana pasada, en el que la compañía detalló casos de uso indebido de sus modelos Claude para fines como ciberataques, vigilancia, fraude y planificación de armamento.
Fuentes: Reuters, Bloomberg y Axios.
3