Ce fut peut-être la plus grande bombe de l’histoire du numérique : un moment où la vie a commencé à ressembler à une scène d’un film de science-fiction apocalyptique.
Le 22 mars, plus de 1 800 signataires – dont Elon Musk et Steve Wozniak, cofondateur d’Apple – ont appelé à une pause de six mois dans le développement des derniers super-systèmes d’IA.
D’éminents scientifiques et ingénieurs d’Amazon, de DeepMind, de Google, de Meta et de Microsoft ont également apporté leur soutien.
La lettre dit ceci : “Les laboratoires d’IA [are] sont engagés dans une course incontrôlée pour développer et déployer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable”.
Il y a de quoi être effrayé.
Le principal sujet de préoccupation concerne la suite probable de l’actuelle version GPT-4 de l’IA.
Les auteurs font allusion à la probabilité de modèles “géants” et insistent sur le fait que les gouvernements devraient intervenir pour mettre fin à cette situation pendant des mois, voire indéfiniment.
En effet, dans les mois qui ont précédé la lettre de Musk, l’opinion publique semblait considérer ce domaine de l’IA comme un nouveau jeu amusant.
Les gens s’amusaient avec la plateforme Chat-GPT: “écrire une chanson dans le style de David Bowie sur la victoire de Charlton Athletic en Coupe d’Angleterre”, etc. Ils essayaient de faire passer la version Chat-GPT de leurs propres écrits et voyaient si quelqu’un le remarquait ; très souvent, ce n’était pas le cas.
Il y a eu des reportages sur des personnes qui ont annulé des amendes de stationnement grâce à des lettres écrites par le bot.
Quelques journalistes et autres personnes qui gagnent leur vie en écrivant craignaient de voir leurs produits diminuer. Mais par ailleurs, le public n’était pas en phase avec les experts sur ce sujet et a été surpris par la force de l’avertissement lorsqu’il est arrivé.
Il est difficile de prévoir ce qui va se passer ensuite. Les gouvernements ont toujours été lents, voire statiques, à réagir aux problèmes technologiques et je ne vois pas comment cela pourrait changer. Et même s’il y avait une réponse internationale coordonnée à cette lettre, il semble probable que les personnes impliquées avanceraient à une vitesse beaucoup plus lente que les systèmes qu’elles cherchent soi-disant à mettre en pause.
Si l’avenir n’est pas clair, nous devons nous accommoder rapidement – très rapidement – du présent. Parce que la plupart d’entre nous n’en sont pas encore là.
Nous vivons aujourd’hui dans un monde où une photo du pape portant apparemment une veste polaire d’apparence comique peut être partagée des millions de fois en l’espace de quelques heures, sans que la plupart des personnes qui la partagent ne se posent la question de savoir s’il ne s’agit pas d’un faux.
Mais le scénario suivant est plus pertinent : nous pourrions, par exemple, recevoir un message qui semble avoir été écrit par un bon ami, mais qui ne l’est pas.
Jusqu’à présent, la plupart des escroqueries étaient génériques et relativement peu sophistiquées – essentiellement des centaines de variations différentes du vieux classique “mon oncle possédait une mine de diamants”.
Dans ce meilleur des mondes de l’IA, au lieu d’un oncle manifestement faux propriétaire d’une mine de diamants, les fraudeurs pourraient vous contacter au sujet de votre oncle propriétaire d’une entreprise de nettoyage à sec – si votre oncle en possède une. Et ainsi de suite.
Nous sommes arrivés à un point où l’IA permet aux fraudeurs, avec un minimum de recherche, de créer des messages sur mesure et personnalisés qui sont beaucoup plus convaincants et qui ont beaucoup plus de chances de passer.
La réponse est de faire confiance au numéro qui les délivre : la mesure la plus fiable, et de loin, pour évaluer la véracité d’un contenu est et reste la trace de données et l’état de l’appareil mobile utilisé pour le délivrer.
Le contenu envoyé par téléphone mobile est bien plus important que celui envoyé par tous les autres médias combinés – et la grande majorité des utilisateurs ont un historique long et détaillé lié à un seul numéro.
Ainsi, en utilisant les données de télécommunications en direct, vous obtenez un aperçu beaucoup plus clair de l’identité des auteurs d’un message que si vous vous contentez d’en lire le ton.
Nous n’en sommes pas encore au point où les utilisateurs ordinaires ont accès à ces ressources de données inestimables, mais les entreprises commerciales, elles, y ont accès – et peuvent y accéder pour des clopinettes en une fraction de seconde.
Il n’y a tout simplement aucune excuse pour laisser votre personnel exposé à des blagues et à des escroqueries potentielles pilotées par l’IA, alors qu’il pourrait recevoir un signal d’alerte rouge basé non pas sur le texte d’un message, mais sur le numéro qui l’a envoyé.
Pour l’instant, il s’agit du meilleur moyen de se protéger contre l’utilisation d’une IA malveillante.
L’avenir apportera certainement de nouveaux risques, comme le suggère la lettre de Musk, mais nous devrons attendre pour voir ce qu’ils sont.
Last updated on mars 18, 2024
"Phone number verification plays a critical role in helping to detect and prevent online fraud. TMT ID’s TeleShield product provides easy access to global mobile data, enabling us to enhance the actionable results of our MaxMind minFraud® services."
"BTS (Business Telecommunications Services) is successfully using TMT’s Velocity and Live services to check the status of mobile numbers. This way we make sure we optimize the performance of the service offered to our customers and ensure the quality of terminating traffic to all countries.”
"Working with TMT’s TeleShield service has expanded our ability to detect fraud and minimise the risk to our business. TeleShield brings peace of mind and the opportunity to stop fraud before it affects our customers’ bottom line or the service."
"LATRO relies on TMT’s TeleShield to provide the most up to date and reliable numbering qualification information within our fraud reporting tools, enabling us to protect our customer’s revenues and empowering them to defend themselves against fraudulent numbers."
"TMT is a valued partner that enables us to manage our routing costs effectively. They proactively and continuously expand their operator and country coverage while delivering exceptional customer service. We can always count on them to achieve high-quality results and look forward to our continued collaboration."
"TMT provides us with the most comprehensive numbering intelligence data through their fast and reliable Velocity and Live services. TMT is a trusted partner for us, their products ensure that we continue to optimise the best performance and service to our customers."
"TeleShield from TMT gives 42com the power to detect and target telephony fraud scams internationally, thereby protecting our company from the financial and customer experience impacts of telecommunications fraud."
"It has been a pleasure to work with the team at TMT. They have become an essential provider of accurate numbering data information and Number Portability services globally."
"Deutsche Telekom Global Carrier uses TMT ID as one of their key suppliers for Mobile Number Portability Data services. Deutsche Telekom Global Carrier uses TMT ID’s Velocity MNP solution. This is an ultra-fast query service that optimises the routing of international voice calls and A2P messaging."
Nous fournissons les données les plus complètes sur les appareils, les réseaux et la numérotation mobile.
Contactez nous > Discutez avec un expert >
