Por David Moscrop
Periodista y comentarista político. Doctorado en Ciencias Políticas por la Universidad de Columbia Británica (Canadá).
¿De verdad hay un 10% de probabilidades de que estemos perdidos? Nadie lo sabe con certeza. Pero la gravedad del riesgo nos exige encontrar y perseguir un propósito mayor
Anoche leí la publicación que está circulando por internet y por todo el mundo. Jacob Coxon, investigador de seguridad en Anthropic, renunció a la empresa y compartió que cree que hay un 10 % de probabilidades de que la tecnología pueda aniquilar a la humanidad, y pronto. «Quienes desarrollan la IA creen firmemente que podría matarnos a todos para finales de la década», escribió.
El responsable de Ciencia de Alineación de Anthropic —la persona que dirige el grupo cuya tarea es garantizar que el desarrollo de la IA se ajuste a los límites de la ética, los valores y los objetivos comunes humanos— estuvo de acuerdo con Coxon y escribió:
Jacob tiene razón: ¡realmente creemos que la IA podría acabar con todos los humanos! Personalmente, creo que esto ocurrirá en más del 10 % de los casos en la próxima década. Creo que Anthropic está haciendo todo lo posible, pero aún no tenemos un plan para resolver el problema de la alineación para la superinteligencia y no estamos claramente encaminados hacia ello.
En resumen, las tecnologías de IA avanzan más rápido que nuestra capacidad para comprenderlas, regularlas y controlarlas. Sin duda, avanzan más rápido que nuestra capacidad para decidir si las queremos o las necesitamos, para discernir si vale la pena correr el riesgo. No ayuda que los esfuerzos estatales en todo el mundo para controlar la IA y las empresas que la desarrollan hayan sido, en el mejor de los casos, insulsos. En Estados Unidos, una parte importante de los legisladores prefiere dejar que las empresas de IA actúen sin control antes que exigirles que se comporten, mientras que otros ni siquiera saben cómo conectarse a internet. La gerontocracia adinerada, controlada por las grandes corporaciones, que dirige la hegemonía global no está a la altura de las circunstancias y, de hecho, suele encontrarse en conflicto con el bienestar de la mayoría o la seguridad a largo plazo de la humanidad. A eso lo llamamos un desempeño subóptimo.
Algunos en internet y en los medios especulan que la última oleada de pesimismo sobre la IA podría estar impulsada, en parte, por las exigencias de las relaciones públicas corporativas previas a las OPV. Nada aumenta más el valor de las acciones de una empresa que la creencia de que su producto es tan poderoso que podría destruir a la humanidad.
¿Cómo se valora algo así? Por su fuerza. Su poder. Su potencial. ¿Qué precio alcanzaría en el mercado una empresa que produjera las Gemas del Infinito? Seguramente lo suficiente como para pagarle a Tom Holland una fortuna por su próxima película de Spider-Man, con algo de sobra para una serie secundaria de relleno en Disney+, ¿no? Sea lo que sea, es muchísimo.
Independientemente de la naturaleza de las últimas advertencias sobre la IA, el riesgo existencial se presenta como, al menos remotamente, plausible, corroborado y de gran trascendencia, lo que justifica una seria preocupación. Debemos tomar en serio esta preocupación, ya que el costo de equivocarnos e ignorarla es muy alto, especialmente en el ámbito geopolítico.
En el fondo del problema subyace la misma lógica y la misma trampa que impulsaron el estancamiento de la Guerra Fría, desde las armas convencionales hasta las nucleares y las invasiones extranjeras. Se enfrentan grupos, separados por cualquier motivo (ideología, geografía, competencia por los recursos, afán de lucro, etc.), y se les deja competir entre sí. La confianza es baja y la coordinación difícil. Así, el riesgo de que una parte tome la delantera alimenta el deseo de la otra de adelantarse. Dado que ninguna confía en la otra, es prácticamente imposible que alguien se detenga por temor a que la otra no lo haga. Cada una sigue adelante sin cesar hasta que algo cede, como la seguridad de la humanidad.
Tal como están las cosas, las empresas y los gobiernos seguirán desarrollando la IA, y estas tecnologías serán utilizadas por el aparato de seguridad nacional y las fuerzas armadas. En este caso, la analogía con la Guerra Fría no es tanto una comparación como una analogía directa. Estados Unidos desarrollará la IA no solo con el propósito empresarial de obtener beneficios, sino también para mantener una ventaja estratégica sobre sus rivales, en particular China. Por su parte, es casi seguro que China piensa lo mismo. Así que, allá vamos. Como aprendimos en el siglo pasado, una vez que estas carreras comienzan, suelen prolongarse hasta que alguien se desploma de agotamiento o muere.
¿Y esto en qué situación nos deja? Esta mañana me desperté con frío y lluvia. Mi lista de tareas pendientes es larga, con plazos de entrega que se acercan para una temporada de otoño muy ajetreada. Mi bandeja de entrada está llena de correos electrónicos que claman por una respuesta, un recordatorio para regar las plantas del porche y un cupón de 2×1 para cinturones. De camino a la cafetería donde trabajo un par de días a la semana, llevaba mi paraguas y escuchaba a Warren Zevon (Bed of Coals: «Soy demasiado viejo para morir joven y demasiado joven para morir ahora»).
No recuerdo la última vez que estuve menos motivado para trabajar, o para hacer cualquier cosa. Bromeé en internet diciendo que «creo que saber que hay un 10 % de probabilidades de que la IA acabe con la humanidad en una década nos da derecho a todos a tomarnos un día libre hoy».
Parece bastante razonable, ¿verdad? Más o menos. No creo que la humanidad vaya a desaparecer mañana, ni el mes que viene, ni en 2030. Los humanos no siempre somos muy buenos prediciendo el futuro, y creo que una advertencia de que seremos destruidos por las computadoras en una década es, en el mejor de los casos, algo que conviene analizar con espíritu crítico antes de gastar todos tus ahorros y retirarte a una cabaña en el bosque a esperar el fin del mundo.
La advertencia de la IA, sin embargo, resulta desestabilizadora. Por un lado, podría ser precisa, ya sea con exactitud o con una aproximación suficiente como para indicar riesgos importantes y generalizados, más allá del ya grave riesgo de un colapso del empleo a nivel mundial y una catástrofe económica. Por otro lado, desconocemos su veracidad, pero la magnitud del riesgo plantea interrogantes existenciales sobre nuestra razón de ser y el propósito de nuestro tiempo. Nos invita a reflexionar sobre nuestro sentido de la vida.
A veces cito al filósofo Bertrand Russell, quien escribió en su ensayo de 1932 «Elogio de la ociosidad» que el trabajo es «de dos tipos: primero, alterar la posición de la materia en la superficie terrestre o cerca de ella en relación con otra materia similar; segundo, decirle a otras personas que lo hagan».
Pensar en los riesgos de la IA para la humanidad me recuerda a Russell, dejándome con la duda de qué estoy moviendo o qué les estoy diciendo a otros que muevan, dejándome preguntándome si las plantas realmente necesitan riego o si necesito otro cinturón (o, supongo, dos). No puedo leer las noticias sobre amenazas existenciales para la humanidad, ya sean las computadoras, el cambio climático o la guerra nuclear, sin, al menos por un momento, querer desconectar. ¿Cómo se pasa de «todos podríamos morir, y pronto» a «Querido TKTK, como en mi último correo electrónico…»?
Quizás no sea satisfactorio cuando uno está en modo de pánico, pero creo que la respuesta es que, al encontrarse con el tipo de noticias devastadoras que son cada vez más comunes últimamente, hay que tomarse un respiro, sentir lo que uno siente, hablar de ello si es necesario (que es lo que estoy haciendo aquí, supongo), reagruparse y seguir adelante, idealmente de alguna manera que sea útil para la especie humana por la que supuestamente estás tan preocupado.
Está bien que el propósito surja como consecuencia del miedo. Pero hay que asegurarse de volver a la esencia del propósito. Ya he escrito antes que la desesperación, la desconexión o la rendición anticipada son actitudes nihilistas y de privilegio; es mejor ser desafiante, redoblar los esfuerzos para mejorar frente a los titulares deplorables, las oligarquías corporativas malévolas y la clase política que las produce y las permite. Si bien existe un 10 % de probabilidad de que la IA nos destruya, hay un 90 % de probabilidad de que no lo haga. ¿Qué vamos a hacer con esas probabilidades?
Si es mejor resistir, es aún mejor hacerlo en grupo. El camino a seguir es encontrar apoyo en los demás, conectar y movilizarse a nivel local, nacional o internacional. En lugar de desesperarnos, deberíamos centrarnos en los valores, las metas y el trabajo que sirven a la humanidad, en los nobles fines que nos mantienen despiertos, alejados de las preocupaciones y, ante la angustia existencial generalizada, luchando por un mundo más seguro y justo.
Fuente: Substack
Deja una respuesta