Quando Elon Must e os peritos em tecnologia pediram a suspensão da IA, gerou-se uma preocupação global

Foi talvez a maior bomba da história digital: um momento em que a vida começou a parecer uma cena de um filme apocalítico de ficção científica.

A 22 de março, mais de 1800 signatários – incluindo Elon Musk e o cofundador da Apple, Steve Wozniak – apelaram a uma pausa de seis meses no desenvolvimento dos mais recentes supersistemas de IA.

Cientistas de renome na área e engenheiros da Amazon, DeepMind, Google, Meta e Microsoft também deram o seu apoio.

Diz a carta: “Os laboratórios de IA [are] estão envolvidos numa corrida descontrolada para desenvolver e utilizar mentes digitais cada vez mais poderosas que ninguém – nem mesmo os seus criadores – consegue compreender, prever ou controlar de forma fiável”.

De facto, é assustador.

A principal área de preocupação prende-se com o que provavelmente se seguirá à atual versão GPT-4 da IA.

Os autores aludem à possibilidade de surgirem modelos “gigantes” e insistem que os governos devem intervir para impedir que isso aconteça durante meses, se não indefinidamente.

Foi uma mudança repentina na forma como todo o sector era visto publicamente, porque nos meses que antecederam a carta de Musk, a principal opinião pública sobre esta área da IA parecia ser a de que se tratava de um novo e divertido jogo.

As pessoas estavam a brincar com a plataforma Chat-GPT: “Escreve uma canção ao estilo de David Bowie sobre a vitória do Charlton Athletic na Taça de Inglaterra” e assim por diante. Tentavam fazer passar a versão Chat-GPT da sua própria escrita e ver se alguém reparava; muitas vezes não reparavam.

Há notícias sobre pessoas que anulam multas de estacionamento com cartas escritas pelo bot.

Alguns jornalistas e outros que ganham a vida a escrever ficaram nervosos com a diminuição dos seus produtos. Mas, de resto, o público estava desfasado dos especialistas nesta matéria – e foi apanhado de surpresa pela força do aviso quando este chegou.

É difícil prever o que vai acontecer a seguir. Tradicionalmente, os governos têm sido lentos, se não mesmo estáticos, na resposta a questões tecnológicas e não vejo nada a mudar isso. E mesmo que houvesse uma resposta internacional coordenada a esta carta, parece-me provável que os envolvidos estariam a mover-se a uma velocidade muito mais lenta do que os sistemas que supostamente estão a tentar pôr em pausa.

Então, onde é que isso nos deixa?

Se o futuro não é claro, temos de nos adaptar rapidamente – muito rapidamente – ao presente. Porque a maioria de nós ainda não chegou lá.

Vivemos agora num mundo em que uma fotografia do Papa aparentemente com um casaco de penas de aspeto cómico pode ser partilhada milhões de vezes numa questão de horas, sem que a maioria dos que a partilham pare sequer para pensar que pode ser uma grande farsa.

Mas o mais pertinente é este cenário: podemos, por exemplo, receber uma mensagem que parece ter sido escrita por um bom amigo – mas não foi.

Até agora, a maior parte das burlas existentes eram genéricas e relativamente pouco sofisticadas – essencialmente centenas de variações diferentes do velho clássico “o meu tio era dono de uma mina de diamantes”.

Neste admirável mundo novo da IA, em vez de um tio obviamente falso, dono de uma mina de diamantes, os burlões poderiam contactar-te sobre o teu tio que é dono de uma lavandaria – se é que o teu tio é mesmo dono de uma. E assim por diante.

Chegámos agora ao ponto em que a IA significa que, com apenas um pouco de pesquisa, os burlões podem criar mensagens personalizadas e à medida, muito mais convincentes e com muito mais probabilidades de serem ultrapassadas.

E se já não podes confiar nem mesmo nas mensagens aparentemente verdadeiras que recebes, em que podes confiar?

A resposta é confiar no número que os entrega: a métrica mais fiável para avaliar a veracidade de qualquer conteúdo é e continua a ser o rasto de dados e o estado do dispositivo móvel utilizado para o entregar.

É enviado muito mais conteúdo por telemóvel do que por qualquer outro meio de comunicação combinado – e a grande maioria dos utilizadores tem uma história longa e detalhada associada a um único número

Assim, ao utilizar dados de telecomunicações em tempo real, obténs uma visão muito mais clara de quem está por detrás de uma mensagem do que apenas lendo o seu tom.

Ainda não chegámos a um ponto em que os utilizadores comuns tenham acesso a estes recursos de dados de valor incalculável, mas as empresas comerciais têm – e podem aceder a eles por uma ninharia, numa fração de segundo.

Simplesmente não há desculpa para deixar a tua força de trabalho exposta a potenciais blags e burlas conduzidas por IA, quando poderiam receber um aviso de luz vermelha com base não no texto de qualquer mensagem, mas no número que a enviou.

Por enquanto, esta é a forma mais valiosa de te protegeres contra a utilização de IA desonesta.

O futuro trará certamente novos perigos, como sugere a carta de Musk, mas teremos de esperar para ver quais são.