Cuando Elon Must y los expertos en tecnología pidieron que se detuviera la IA, se generó una preocupación mundial

Fue quizá el mayor bombazo de la historia digital: un momento en que la vida empezó a parecer una escena de una película de ciencia ficción apocalíptica.

El 22 de marzo, más de 1.800 firmantes -entre ellos Elon Musk y el cofundador de Apple Steve Wozniak- pidieron una pausa de seis meses en el desarrollo de los últimos supersistemas de IA.

También prestaron su apoyo científicos destacados en este campo e ingenieros de Amazon, DeepMind, Google, Meta y Microsoft .

La carta decía: “Los laboratorios de IA [are] están atrapados en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie -ni siquiera sus creadores- puede comprender, predecir o controlar de forma fiable”.

Da miedo.

El principal motivo de preocupación gira en torno a lo que probablemente seguirá a la actual versión GPT-4 de la IA.

Los escritores aluden a la probabilidad de modelos “gigantescos” e insisten en que los gobiernos deben intervenir para impedirlo durante meses, si no indefinidamente.

Fue un cambio de marcha repentino en la forma en que se percibía públicamente todo el sector, porque en los meses anteriores a la carta de Musk, la principal opinión pública en torno a este ámbito de la IA parecía ser que se trataba de un nuevo juego novedoso y divertido.

La gente jugaba con la plataforma Chat-GPT: “escribe una canción al estilo de David Bowie sobre el Charlton Athletic ganando la FA Cup” y cosas así. Intentaban hacer pasar la versión Chat-GPT de sus propios escritos y ver si alguien se daba cuenta; muy a menudo no lo hacían.

Hubo noticias sobre personas que anularon multas de aparcamiento con cartas escritas por el bot.

Algunos periodistas y otras personas que se ganan la vida escribiendo estaban nerviosos ante la posibilidad de que su mercancía se viera mermada. Pero, por lo demás, el público no estaba a la altura de los expertos en esta cuestión, y se vieron sorprendidos por la fuerza de la advertencia cuando ésta se produjo.

Es difícil predecir qué ocurrirá a continuación. Tradicionalmente, los gobiernos han sido lentos, si no estáticos, a la hora de responder a los problemas tecnológicos, y no creo que nada cambie esta situación. E incluso si hubiera alguna respuesta internacional coordinada a esta carta, parece probable que los implicados se movieran a una velocidad mucho menor que los sistemas que supuestamente pretenden poner en pausa.

¿Dónde nos deja esto?

Si el futuro no está claro, tenemos que aceptar rápidamente -muy rápidamente- el presente. Porque la mayoría de nosotros aún no estamos allí.

Ahora vivimos en un mundo en el que una foto del Papa, aparentemente vestido con un chubasquero de aspecto cómico, puede compartirse millones de veces en cuestión de horas antes de que la mayoría de los que la comparten se paren siquiera a considerar que puede tratarse de una profunda falsificación.

Pero más pertinente es este escenario: podríamos, digamos, recibir un mensaje que parece y se lee como si lo hubiera escrito un buen amigo, pero no lo fue.

Hasta ahora, la mayoría de las estafas han sido genéricas y relativamente poco sofisticadas, básicamente cientos de variaciones diferentes del clásico “mi tío tenía una mina de diamantes”.

En este nuevo y valiente mundo de la IA, en lugar de un tío propietario de una mina de diamantes obviamente falso, los estafadores podrían ponerse en contacto contigo para hablarte de tu tío propietario de una tintorería, si es que tu tío tiene una. Y así sucesivamente.

Hemos llegado a un punto en el que la IA permite que, con un mínimo de investigación, los estafadores puedan crear mensajes personalizados y a medida, mucho más convincentes y con muchas más probabilidades de calar.

Y si ya no puedes confiar ni siquiera en los mensajes aparentemente reales que recibes, ¿en qué puedes confiar?

La respuesta es confiar en el número que los entrega: la métrica más fiable con diferencia para evaluar la veracidad de cualquier contenido es y sigue siendo el rastro de datos y el estado del dispositivo móvil utilizado para entregarlo.

Se envían muchas veces más contenidos por móvil que por cualquier otro medio combinado, y la gran mayoría de los usuarios tienen un historial largo y detallado vinculado a un único número

Por tanto, al utilizar datos de telecomunicaciones en directo, obtienes una visión mucho más clara de quién está detrás de un mensaje que la que puedes obtener simplemente leyendo su tono.

Todavía no hemos llegado a un punto en el que los usuarios normales tengan acceso a estos recursos de datos de valor incalculable, pero las empresas comerciales sí lo tienen, y pueden acceder a ellos por unos céntimos en una fracción de segundo.

Sencillamente, no hay excusa para dejar a tus empleados expuestos a posibles estafas y engaños impulsados por la IA, cuando podrían recibir un aviso de luz roja basado no en el texto de cualquier mensaje, sino en el número que lo envió.

Por ahora, ésta es la forma más valiosa que tienes de protegerte contra el uso deshonesto de la IA.

El futuro traerá sin duda nuevos peligros, como sugiere la carta de Musk, pero tendremos que esperar para ver cuáles son.