Esto es peligroso, por lo que hay que detenernos ¡ya mismo!. Y no es la primera vez que nos lo piden. En marzo de 2023, el Future of Life Institute publicó una carta abierta pidiendo a todos los laboratorios de IA que detuvieran durante al menos seis meses el entrenamiento de sistemas más potentes que GPT-4, por razones que iban desde riesgos de propaganda, automatización masiva del trabajo y pérdida de control. La firmaron Elon Musk, Steve Wozniak, el Premio Turing Yoshua Bengio, el historiador Yuval Noah Harari y más de 30.000 personas en total. El modelo que en ese momento era la causa del miedo, era GPT-4. Una antigüedad, que parece tan inofensivo que casi nos olvidamos de que existió ese momento de pánico. Nadie paró. Nadie pausó nada. Y pareciera que nada pasó.
El documento dice que hoy más del 80% del código que Anthropic incorpora a sus sistemas lo escribe Claude, su propio modelo de IA. Hace apenas un año ese número estaba en un dígito. Que un ingeniero de Anthropic produce hoy 8 veces más código por día que en 2024. Que Claude ya puede trabajar solo durante 12 horas seguidas resolviendo problemas complejos, y que si la tendencia sigue así, en 2027 podría encargarse de tareas que le llevarían semanas a una persona. Y que en un experimento, agentes de Claude resolvieron solos un problema de investigación en seguridad de IA que dos investigadores humanos tardaron una semana en abordar, y encima los agentes lo hicieron mejor.
Entonces, ya tenemos pruebas de un mejora recursiva: el modelo ayuda a construir el próximo modelo, que ayuda a construir el siguiente, y así hasta que en algún punto el humano deja de ser necesario en el ciclo. Esto todavía no pasa, pero cuando pase, ¿qué pasará?
Lo que dicen es: “Hay que parar, pero solo si paramos todos”
Al final del documento, Anthropic afirman que estarían dispuestos a pausar, si todos los demás laboratorios del mundo también lo hacen al mismo tiempo, de forma verificable. Con el objetivo de que el mundo tenga tiempo de adaptarse y se tomen las medidas de seguridad necesarias.
Bonito. Muy responsable. Muy serio. Pero creo que
¿Para qué el documento? Anthropic se para en el centro de la cancha y dice "nosotros somos los que avisamos, los que pedimos que paren, los responsables". Mientras tanto siguen entrenando modelos, siguen lanzando productos, siguen creciendo (¿preparando su salida a la bolsa?). El documento en cuestión está lleno de datos internos que muestran lo competitivos que son, aprovechan para decir que van ganando. Ya estamos acostumbrados a este tipo de artículos, llenos de detalles, estudios y análisis y siempre parece tener el mismo objetivo una jugada de posicionamiento. No es que mientan, no lo creo. Los datos que muestran deben ser reales y nos son los únicos. Pero hay una diferencia enorme entre "queremos que esto se frene" y "estamos dispuestos a frenarlo nosotros primero". Mas que nada parece decir, “Esto no se frena, mejor que nosotros ganemos que somos los buenos”.
Otra cosa que me quedé pensando. Hay algo que se repite en la historia, el miedo como herramienta de control: primero nos muestran el peligro, nos dejan un rato procesando el susto, y en ese estado de parálisis aceptamos cosas que de otra manera cuestionaríamos mucho más. El documento de Anthropic termina hablando de tres futuros posibles: 1.- La tendencia se frena sola, por los mismos límites de la tecnología (aclaran que incluso en este caso ya tiene la capacidad de transformar completamente nuestra sociedad). 2.- Las IA aceleran, pero con los humanos al mando. 3.- Las IA completan el ciclo de mejora recursiva, los humanos lo observamos por la venta. En cualquier de los tres el tema es el mismo: dan miedo y necesitamos a alguien de confianza para manejar todo y volver a la tranquilidad.
Y si, da miedo. Porque la aceleración es real. Y porque una IA que en seis meses pasó de resolver problemas simples a proponer sus propios experimentos científicos no es ciencia ficción, es lo que está pasando ahora mismo en los servidores de estas empresas.
¿Qué hacemos? Esta es la pregunta que siempre me queda dando vueltas y que el documento, por supuesto, deja sin responder. Porque si paramos nosotros (Dice Anthropic) y otros no paran, perdemos. Pero si seguimos todos, a toda velocidad, el escenario tres se vuelve cada vez más cercano y perdemos todos.
Creo que como en todo problema colectivo no hay una salida individual. Y los actores que deberían construir esa salida como los gobiernos y los organismos internacionales, van varios kilómetros atrás de la tecnología, mucho mas que otras veces.
Lo que sí podemos hacer, desde acá, desde nuestra esquina del mundo, es no dejarnos paralizar por el miedo ni tampoco ignorarlo. Entender lo que está pasando, hacernos las preguntas incómodas, y no comprar el relato de los mismos que están acelerando la carrera. Las preguntas son solo retóricas si no tenemos nadie que haga valer nuestras respuestas. Las advertencias son solo publicidad si las propuestas son irrealizables.
El documento de Anthropic es interesante. Tiene datos importantes y algún tipo de honestidad no muy común que no es común en el sector. Hay que tenerlo en cuenta pero con los ojos bien abiertos, sabiendo quién lo escribe, por qué lo escribe, y qué tiene para ganar al escribirlo.