Quando Elon Must e especialistas em tecnologia pediram a suspensão da IA, isso gerou uma preocupação global

Foi talvez a maior bomba da história digital: um momento em que a vida começou a parecer uma cena de um filme apocalíptico de ficção científica.

Em 22 de março, mais de 1.800 signatários – incluindo Elon Musk e o cofundador da Apple, Steve Wozniak – pediram uma pausa de seis meses no desenvolvimento dos mais recentes supersistemas de IA.

Os principais cientistas da área e engenheiros da Amazon, DeepMind, Google, Meta e Microsoft também deram seu apoio.

A carta dizia: “Os laboratórios de IA [are] estão presos em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – consegue entender, prever ou controlar de forma confiável.”

De fato, é assustador.

A principal área de preocupação está relacionada ao que provavelmente ocorrerá depois da atual versão GPT-4 da IA.

Os autores fazem alusão à probabilidade de modelos “gigantes” e insistem que os governos devem intervir para impedir isso por meses, se não indefinidamente.

Foi uma mudança repentina na forma como todo o setor era percebido publicamente, pois nos meses que antecederam a carta de Musk, a principal opinião pública sobre essa área de IA parecia ser a de que se tratava de um novo e divertido jogo.

As pessoas estavam brincando com a plataforma Chat-GPT: “Escreva uma música no estilo de David Bowie sobre a vitória do Charlton Athletic na Copa da Inglaterra” e assim por diante. Elas tentavam passar a versão do Chat-GPT de sua própria escrita e ver se alguém notava; muitas vezes não notavam.

Havia notícias sobre pessoas que anularam multas de estacionamento com cartas escritas pelo bot.

Alguns jornalistas e outros que ganham a vida escrevendo ficaram nervosos com a diminuição de seus produtos. Mas, de outra forma, o público não estava em sintonia com os especialistas nesse assunto e foi pego de surpresa pela força do aviso quando ele chegou.

É difícil prever o que acontecerá em seguida. Tradicionalmente, os governos têm sido lentos, se não estáticos, na resposta a questões tecnológicas e não vejo nada que possa mudar isso. E mesmo que houvesse alguma resposta internacional coordenada a essa carta, parece provável que os envolvidos estariam se movendo em uma velocidade muito mais lenta do que os sistemas que eles estão supostamente procurando pausar.

Então, onde isso nos deixa?

Se o futuro não é claro, precisamos nos conformar rapidamente – muito rapidamente – com o presente. Porque a maioria de nós ainda não chegou lá.

Vivemos em um mundo em que uma foto do Papa aparentemente vestindo uma jaqueta cômica pode ser compartilhada milhões de vezes em questão de horas, antes que a maioria das pessoas que a compartilham sequer pare para pensar que ela pode ser uma grande farsa.

Mas o cenário mais pertinente é este: poderíamos, por exemplo, receber uma mensagem que parece ter sido escrita por um bom amigo, mas não foi.

Até agora, a maioria dos golpes existentes era genérica e relativamente pouco sofisticada – essencialmente centenas de variações diferentes do velho clássico “meu tio era dono de uma mina de diamantes”.

Nesse admirável mundo novo da IA, em vez de um tio obviamente falso, dono de uma mina de diamantes, os fraudadores poderiam entrar em contato com você para falar sobre o seu tio, que é dono de uma lavanderia – se o seu tio for dono de uma. E assim por diante.

Agora chegamos a um ponto em que a IA significa que, com apenas um pouco de pesquisa, os fraudadores podem criar mensagens personalizadas e sob medida, que são muito mais convincentes e têm muito mais chances de serem aprovadas.

E se você não pode mais confiar nem mesmo nas mensagens aparentemente reais que recebe, em que pode confiar?

A resposta é confiar no número que os entrega: a métrica mais confiável, de longe, para avaliar a veracidade de qualquer conteúdo é e continua sendo a trilha de dados e o status do dispositivo móvel usado para entregá-lo.

Muitas vezes mais conteúdo é enviado por celular do que por qualquer outra mídia combinada, e a grande maioria dos usuários tem um histórico longo e detalhado vinculado a um único número

Portanto, ao usar dados de telecomunicação em tempo real, você obtém uma visão muito mais clara de quem está por trás de uma mensagem do que apenas lendo seu tom.

Ainda não chegamos a um ponto em que os usuários comuns normalmente têm acesso a esses recursos de dados inestimáveis, mas as empresas comerciais têm, e podem acessá-los por um preço irrisório em uma fração de segundo.

Simplesmente não há desculpa para deixar sua força de trabalho exposta a possíveis fraudes e golpes orientados por IA quando eles poderiam receber um aviso de sinal vermelho com base não no texto de qualquer mensagem, mas no número que a enviou.

Por enquanto, essa é a maneira mais valiosa que você tem para se proteger contra o uso de IA desonesta.

O futuro certamente trará novos perigos, como sugere a carta de Musk, mas teremos que esperar para ver quais são eles.