Los directivos proponen un acuerdo global sobre cómo desacelerar el desarrollo y un mecanismo para verificar que los competidores lo respeten
Anthropic instó a los principales laboratorios de Inteligencia Artificial (IA) a considerar la posibilidad de desacelerar el ritmo de desarrollo, sugiriendo que los sistemas de IA avanzan tan rápidamente que pronto podrían perfeccionarse sin intervención humana, lo que podría suponer riesgos sociales significativos, reportó The Wall Street Journal.
La capacidad de desacelerar el desarrollo global de la IA "probablemente sería algo positivo", afirmó la compañía en una publicación que reveló datos internos que documentan la rapidez con la que mejoran sus modelos más avanzados.
La publicación, escrita por el director de su instituto de investigación interno y el responsable de políticas, señaló que los avances de los modelos parecen encaminarse hacia la automejora recursiva, en la que los sistemas de IA pueden mejorar por sí mismos sin intervención humana. Algunos expertos en IA han visto ese umbral como un posible indicador de peligro y de una enorme conmoción social.
"Creemos que sería beneficioso para el mundo tener la opción de desacelerar o pausar temporalmente el desarrollo de la IA de vanguardia para permitir que las estructuras sociales y la investigación en materia de alineación se mantengan al día con el avance de la tecnología", afirmaron Marina Favaro y Jack Clark.
Los directivos proponen un acuerdo global sobre cómo desacelerar el desarrollo y un mecanismo para verificar que los competidores lo respeten.
El Journal dijo que Anthropic, que desde su fundación ha hecho hincapié en la seguridad de la IA, ha recibido críticas constantes por considerar que sus políticas están diseñadas para frenar los avances de la competencia en este campo.
David Sacks, inversionista de capital de riesgo y asesor informal del Presidente Trump, ha acusado a los directivos de Anthropic de impulsar una "agenda de captura regulatoria".
Sacks afirmó que esta "agenda de captura regulatoria" en Washington podría derivar en un intento por prohibir los llamados modelos de código abierto, que son esencialmente versiones de sistemas de IA mucho más económicos.
Otros han sugerido que las advertencias de Anthropic sobre el potencial peligroso de sus propias herramientas también podrían considerarse una estrategia de marketing.
Estos escépticos señalan la decisión de Anthropic de limitar el lanzamiento de su potente modelo de ciberseguridad "Mythos", capaz de detectar fallos y problemas, como una forma conveniente de promocionar las capacidades de sus productos.
