Por: Floralicia Anzola
Dédalo fabricó unas alas para escapar con su hijo. Antes de emprender el vuelo, le advirtió que no se acercara demasiado al sol: el calor derretiría la cera que sujetaba las plumas. Ícaro siguió ascendiendo. Las alas que le habían permitido escapar terminaron llevándolo a la muerte.
El mito vuelve a la memoria cuando escuchamos a quienes construyen la inteligencia artificial advertir sobre sus peligros.
Jacob Coxon, matemático británico de 27 años, investigador que trabajó en OpenAI y Anthropic, anunció su renuncia el pasado 9 de los corrientes. En una entrevista publicada por WIRED, describió así la preocupación que, según él, comparten colegas dentro de Anthropic: “El próximo año o los próximos dos son un momento decisivo para la humanidad”.
Dario Amodei, director ejecutivo de Anthropic, escribió este mismo mes: “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA”. Le preocupa que la capacidad de estos sistemas para ayudar a construir sus sucesores avance más rápido que los mecanismos para mantenerlos bajo control.
La pregunta resulta inevitable: ¿por qué seguimos desarrollando algo que, según sus propios creadores, podría ponernos en peligro?
Porque también promete mejorar nuestras vidas. Porque puede ayudarnos a encontrar tratamientos y resolver problemas que hoy parecen insuperables. Esas aspiraciones son legítimas. Conviven, sin embargo, con una competencia en la que detenerse puede significar perder dinero o poder.
Cada participante encuentra una justificación: si yo no avanzo, otro lo hará. Quizá alguien menos responsable. Así, todos pueden reconocer el peligro y encontrar, al mismo tiempo, una razón para seguir acelerando.
El riesgo aumenta cuando entregamos decisiones sobre funciones esenciales a sistemas que no podemos supervisar adecuadamente. Aumenta si muchas organizaciones dependen de la misma tecnología y un fallo puede extenderse. Y se vuelve especialmente grave cuando corregirlo exige más tiempo del que sus consecuencias nos permiten.
Una máquina no tendría que odiarnos para causarnos daño. Podría ejecutar un objetivo de una manera incompatible con nuestra seguridad. Haber aprendido de los humanos no garantiza que proteja la vida humana.
La pérdida de control podría producirse por etapas. Una autorización adicional. Una supervisión que se elimina porque retrasa el trabajo. Cada decisión parece pequeña hasta que descubrimos cuánto hemos delegado y qué difícil resulta recuperarlo.
Por eso importa quién decide. Cuando decimos que la humanidad está construyendo esta tecnología, olvidamos que la mayoría abrumadora de los seres humanos no participa en las decisiones sobre su desarrollo. Los beneficios tienen propietarios. Pero las consecuencias van a alcanzar a todos.
Dédalo conocía la fragilidad de sus alas. El entusiasmo de Ícaro no cambió las propiedades de la cera.
Nosotros todavía podemos establecer límites y exigir que alguien independiente tenga autoridad para hacerlos cumplir. Quienes desarrollan la inteligencia artificial no pueden ser los únicos que decidan cuánto peligro resulta aceptable.
Ícaro arriesgó su propia vida. Nadie tiene derecho a emprender ese vuelo con la vida de todos nosotros en sus alas.
