Anthropic ha tomado la determinación de lanzar por primera vez al público su controvertido y poderoso modelo de IA Mythos, que sale del cascarón, eso sí, en una versión con restricciones. No obstante, y pese a las restricciones de las que viene acompañado Mythos, a muchos sigue provocándoles zozobra los problemas que podría plantear este modelo si se usa con fines militares y se emplea de manera torticera para perpetrar ciberataques.
La primera versión pública de Mythos, que tiene la vitola de ser el modelo de IA más poderoso hasta la fecha de Anthropic, ha sido bautizada con el nombre de Fable 5 e incluye restricciones en determinadas áreas por razones de seguridad.
El lanzamiento de Mythos se produce después de que diferentes expertos en seguridad y autoridades que tuvieron acceso de manera anticipada al modelo de IA de Anthropic advirtieran de que éste era susceptible de ser utilizado para lanzar ciberataques sobre infraestructuras críticas.
De acuerdo con Anthropic, Fable 5, el modelo de IA que lanza ahora al público, no está capacitado para responder de manera independiente a preguntas sobre temas sensibles como la ciberseguridad. Y que tales preguntas son redirigidas a Opus 4.8, un modelo mucho menos poderoso que la versión de Mythos que ha hecho pública ahora el rival de OpenAI.
El modelo de IA Mythos fue calificado en su día de «demasiado poderoso» por parte de los expertos
Los expertos que han tenido ocasión de probar antes que nadie Mythos argumentan que este sistema tiene la potestad de identificar vulnerabilidades de seguridad notablemente más rápido y forma más precisa que modelos anteriores de IA. Desde que fuera presentado el pasado mes de abril, Mythos ha sido puesto a disposición de tan sólo unos pocos partners de Anthropic. No obstante, a principios de junio la base inicial de usuarios de Mythos se expandió para llegar a aproximadamente 200 organizaciones en más de 15 países diferentes.
El eventual uso para fines militares de Mythos se trata de un asunto particularmente controvertido para Anthropic, que actualmente está enzarzado en una agria disputa legal con el Departamento de Defensa de Estados Unidos.
La compañía capitaneada por Dario Amodei se opuso en su día a proporcionar al Pentágono acceso sin restricciones a sus modelos de IA debido a los problema de seguridad que ello entrañaba. Y la respuesta del Departamento de Defensa fue clasificar a Anthropic como un «riesgo para la seguridad en la cadena de suministro».
Anthropic se ha ufanado siempre de autoimponerse estrictos límites a la hora de desarrollar sus sistemas de IA, que no pueden utilizarse, por ejemplo, para la vigilancia masiva en territorio estadounidense ni tampoco para la creación de sistemas armamentísticos totalmente autónomos.
La compañía estadounidense, que la semana pasada anunció su intención de debutar próximamente en los parqués bursátiles, advierte asimismo del desarrollo totalmente descontrolado de sistemas de IA cada vez más potentes y exige normas internacionales para regular ese desarrollo. Sin embargo, los expertos consideran poco probable que las empresas líderes en el área de la IA se avengan a formar una entente para frenar conjuntamente el desarrollo de esta tecnología (por más que ese desarrollo termine tomando derroteros peligrosos).
Anthropic, que prepara su próxima salida a bolsa, obtuvo recientemente una valoración récord de 965.000 millones de dólares tras su última ronda de financiación, logrando de esta forma desbancar a OpenAI como la startup de IA más valiosa del mundo.
