Por Jorge Otero
Periodista de Público. Licenciado en Sociología.
En pleno debate sobre los riesgos que implica Mythos, su nueva herramienta de IA, la empresa de Dario Amodei cierra un acuerdo con grandes fondos de inversión para crear una consultora y expandir su modelo
Cuando se habla del desarrollo de la Inteligencia Artificial (IA), medio mundo suele contener la respiración, pero con el nuevo modelo de IA desarrollado por Anthropic, bautizado como Mythos Preview, y basado en su conocido modelo de lenguaje Claude, el mundo directamente se ha echado a temblar. «Es peor que una bomba atómica», ha llegado publicar el diario The New York Times de un modelo de computación capaz, según sus propios creadores, de identificar vulnerabilidades y fallos ocultos en cualquier sistema informático y software de cualquier organización o empresa sin intervención humana.
«Estamos industrializando el hacking», explica Jesús Cristóbal, profesor de la escuela de negocios OBS Business School y director de la empresa Sand, especializada en análisis de datos e IA cuando se le pregunta qué implica esta nueva herramienta. «Mythos es una máquina con una potencia de cálculo que no existió antes», matiza este experto.
La preocupación está tan extendida que el propio Carlos Cuerpo, vicepresidente primero y ministro de Economía, Comercio y Empresa, Carlos Cuerpo, pidió el pasado lunes a la Unión Europea que exija «acceso temprano» a Mythos. Hasta los ministros de Economía y Finanzas de la eurozona han mostrado su inquietud por esta herramienta y por la amenaza que puede representar para la seguridad económica de Europa y, en especial, para el sector bancario.
Ante el potencial de esta nueva herramienta, y con la intención de evitar que caiga en manos inapropiadas, Anthropic ha restringido de momento su acceso al público.
La explicación a esta decisión es que Mythos detecta vulnerabilidades de software y automatiza su descubrimiento y explotación. Cristóbal explica que según Anthropic, «el modelo ha identificado miles de vulnerabilidades que en ciberseguridad se denominan zero day: fallos desconocidos por el fabricante para los que no existe parche ni mecanismo de defensa. Esto significa que pueden esos fallos ser explotados sin que el proveedor del software tenga capacidad de reacción inmediata».
De momento solo una reducida lista empresas ha podido acceder a Mythos, entre ellas algunas competidoras de Anthropic, como Amazon y Apple, para testar la herramienta. Además, ahí también están Google, Microsoft, Nvidia, CrowdStrike, JPMorgan Chase, Cisco, Broadcom, Palo Alto Networks y la Linux Foundation. La empresa ya ha denominado a este acceso preferente Proyecto Glasswing.
«Anthropic ha invitado a un grupo de empresas que mayor implantación de software tienen el mundo. Estamos industrializando el hacking y el ministro Cuerpo hace bien preocuparse. Hay que preparar todos esos softwares empresariales para evitar esas vulnerabilidades. Si las empresas no las conocen, no podrán aplicar parches ni aplicar una solución. Pero ahora mismo estamos en un momento de incertidumbre porque no se sabe nada, o poco, de la herramienta, ni cómo son esas vulnerabilidades, ni hasta dónde pueden llegar», contextualiza Cristóbal.
Pero además de potencialmente peligrosa, Mythos es una herramienta cara. «Mythos genera unos costes enormes. Implica un consumo significativo de recursos, lo que se traduce en costes directos elevados y, sobre todo, en un importante coste de oportunidad en infraestructuras».
Necesidad de financiación
Más allá de la seguridad, el factor económico es igualmente relevante: la búsqueda de alianzas empresariales se convierte por tanto en una búsqueda de financiación. Eso explica el último movimiento de Anthropic: este pasado lunes cerró un acuerdo de financiación por 1.500 millones de dólares (1.285 millones de euros) con otras empresas de capital privado como Blackstone, Hellman & Friedman y Goldman Sachs para crear una empresa de servicios de IA que ayudará a integrar su modelo y su algoritmo en otras compañías. Será una gran consultora de IA. El acuerdo ha sido aplaudido en Wall Street. El propio The Wall Street Journal informó de que la nueva empresa también contará con el respaldo de otras compañías de otros grandes fondos de inversión como son General Atlantic, Sequoia Capital y Apollo Global Management.
Según explicó Anthropic en un comunicado, esta nueva empresa de IA colaborará con compañías medianas de diversos sectores para integrar su lenguaje Claude en sus operaciones más importantes. «Esta nueva empresa aporta una mayor capacidad operativa al ecosistema, así como capital procedente de gestoras líderes de activos alternativos», apuntó en la nota Krishna Rao, director financiero de Anthropic.
Este anuncio confirme que la IA es una industria en pleno apogeo.
La carrera por despuntar en este mercado se ha vuelto frenética y en los últimos tiempos los inversores muestran un apetito financiero voraz por posicionarse en un sector muy dinámico.
«Ahora todas las empresas del sector están captando mercado y todos están buscando alianzas entre sí, porque al final en el sector de la IA no son tantas», explica Cristóbal.
Ante esta necesidad extrema de financiación y el mayor coste que acarrean herramientas como Mythos, Cristóbal apunta que los precios de las herramientas y soluciones de IA se van a encarecer en los próximos meses. De hecho, este experto intuye que Anthropic ha cobrado una buena cantidad de dinero por mostrar Mythos a otras empresas.
Sin embargo, eso implica un riesgo. «Por primera vez, los modelos más avanzados podrían quedar limitados no solo por su peligrosidad potencial, sino por quién puede permitirse operarlos», concluye el experto.
Fuente: Público
Deja una respuesta