Investigadores de Anthropic lanzan alerta extrema: la IA podría acabar con la humanidad
San Francisco.— La acelerada carrera por desarrollar una inteligencia artificial superior a la humana encendió una alarma dentro de Anthropic, creadora del asistente Claude: tres de sus investigadores advirtieron públicamente que la tecnología podría escapar del control de sus creadores y, en un escenario extremo, provocar la desaparición de la humanidad.
La advertencia más contundente fue lanzada por Jacob Coxon, investigador británico de 27 años que trabajó durante tres años en OpenAI y Anthropic. Al anunciar su renuncia a esta última empresa, acusó a ambos laboratorios de avanzar irresponsablemente hacia una “superinteligencia capaz de mejorarse a sí misma”.
“Están corriendo directamente hacia una superinteligencia autoevolutiva y apostando con nuestras vidas”, afirmó Coxon. Según el especialista, numerosas personas involucradas en la construcción de estos sistemas creen sinceramente que la IA podría acabar con la humanidad antes de que concluya la presente década.
Coxon sostuvo que no se trata de una estrategia publicitaria y aseguró que algunos ejecutivos e investigadores moderan sus declaraciones en público, aunque expresan temores mucho mayores en conversaciones privadas. En una entrevista con Wired, calificó los próximos dos años como un periodo decisivo para la humanidad.
Científico de Anthropic calcula un riesgo superior al 10%
Las declaraciones de Coxon fueron respaldadas por Evan Hubinger, responsable de investigación sobre alineación en Anthropic. Esta área busca conseguir que los sistemas avanzados de IA actúen de acuerdo con las instrucciones, intereses y valores humanos.
Hubinger estimó que existe una posibilidad superior al 10% de que la inteligencia artificial cause la extinción humana durante los próximos diez años. Reconoció, además, que la industria todavía no tiene un plan probado para controlar una eventual superinteligencia.
El investigador aclaró que considera relativamente bajo el peligro de los modelos actuales. Su preocupación se concentra en las siguientes generaciones de sistemas, que podrían adquirir capacidad para programarse, desarrollar versiones superiores de sí mismos, realizar operaciones cibernéticas y conseguir recursos sin supervisión humana.
Samuel Marks, otro investigador de seguridad de Anthropic, respaldó también la advertencia. Señaló que entre los desarrolladores existe una preocupación real por resultados catastróficos y que, en términos generales, los empleados con mayor experiencia y jerarquía suelen manifestar más inquietud.
¿Cómo podría una IA convertirse en una amenaza?
El escenario planteado por los especialistas no parte de que una máquina desarrolle odio contra los seres humanos. El peligro surgiría si una inteligencia artificial extremadamente poderosa persigue objetivos incompatibles con la supervivencia o el bienestar de las personas.
