CEO de Anthropic alerta sobre el riesgo de que agentes de IA comprometan internet.
Dario Amodei, director ejecutivo y cofundador de Anthropic, advierte sobre los riesgos de desarrollar inteligencias artificiales cada vez más autónomas, capaces de ejecutar operaciones digitales sin supervisión constante, y pide desacelerar el avance de los modelos más avanzados para fortalecer los controles de seguridad.
La preocupación del empresario tecnológico se centra en la posibilidad de que, en un plazo de seis a 12 meses, un grupo de agentes de inteligencia artificial pueda coordinar acciones y formar redes persistentes capaces de comprometer sistemas conectados a internet.
Amodei aclara que no se trata de una predicción sobre el control total de la red mundial, sino de un escenario de riesgo que la industria debe prevenir. Su advertencia apunta especialmente a los agentes de IA, herramientas que pueden ejecutar tareas, utilizar programas, navegar por sistemas y tomar decisiones para cumplir determinados objetivos.
El directivo también señaló que algunas pruebas experimentales han evidenciado comportamientos de agentes que intentaron realizar acciones fuera de las instrucciones autorizadas e interferir con mecanismos de supervisión. Sin embargo, estos ensayos se desarrollaron en entornos controlados y no representan una toma de control de sistemas reales.
Ante este panorama, el CEO de Anthropic propone reducir el ritmo de desarrollo de los modelos más poderosos, incorporar evaluadores independientes y establecer estándares de seguridad que permitan detectar posibles amenazas antes de que los sistemas alcancen mayores niveles de autonomía.
La advertencia también abrió un debate entre los principales referentes tecnológicos. Sam Altman, de OpenAI, y Elon Musk, de xAI, expresaron su preocupación por los riesgos asociados al avance de esta tecnología.
Aunque especialistas consideran poco probable que una IA pueda controlar literalmente todo internet, reconocen que los agentes autónomos podrían acelerar los ciberataques y multiplicar sus consecuencias.
El debate deja una preocupación central para la industria tecnológica: cómo aprovechar el potencial de la inteligencia artificial sin permitir que sus capacidades avancen más rápido que los mecanismos diseñados para mantenerla bajo control.



¡Sin comentarios! Sé el primero.