Als Elon Must und Tech-Experten zum Stopp der KI aufriefen, löste dies weltweite Besorgnis aus

Es war vielleicht die größte Bombe der digitalen Geschichte: ein Moment, in dem das Leben wie eine Szene aus einem apokalyptischen Science-Fiction-Film erschien.

Am 22. März forderten mehr als 1.800 Unterzeichner – darunter Elon Musk und Apple-Mitbegründer Steve Wozniak – eine sechsmonatige Pause bei der Entwicklung der neuesten KI-Supersysteme.

Führende Wissenschaftler auf diesem Gebiet und Ingenieure von Amazon, DeepMind, Google, Meta und Microsoft haben ebenfalls ihre Unterstützung zugesagt.

In dem Brief heißt es: “Die KI-Labors [are] befinden sich in einem außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Köpfe, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren kann.”

Das ist in der Tat beängstigend.

Am meisten Anlass zur Sorge gibt die Frage, was auf die aktuelle GPT-4-Version von AI folgen wird.

Die Autoren spielen auf die Wahrscheinlichkeit von “gigantischen” Modellen an und bestehen darauf, dass die Regierungen eingreifen sollten, um dies für Monate, wenn nicht sogar auf unbestimmte Zeit zu verhindern.

Es war ein plötzlicher Richtungswechsel in der öffentlichen Wahrnehmung des gesamten Sektors, denn in den Monaten vor dem Musk-Brief schien die Öffentlichkeit diesen Bereich der KI hauptsächlich als neuartiges und amüsantes Spiel zu betrachten.

Die Leute haben mit der Chat-GPT-Plattform herumgespielt: “Schreiben Sie einen Song im Stil von David Bowie über den Sieg von Charlton Athletic im FA Cup” und so weiter. Sie versuchten, die Chat-GPT-Version ihres eigenen Textes als solche auszugeben und zu sehen, ob es jemandem auffiel; sehr oft war das nicht der Fall.

In den Nachrichten wurde von Leuten berichtet, die mit Briefen, die der Bot geschrieben hat, Bußgelder aufgehoben haben.

Ein paar Journalisten und andere, die ihren Lebensunterhalt mit dem Schreiben verdienen, waren nervös, weil ihre Waren nicht mehr so gefragt waren. Aber ansonsten war die Öffentlichkeit in dieser Sache nicht auf der Höhe der Experten – und wurde von der Stärke der Warnung überrascht, als sie kam.

Es ist schwer vorherzusagen, was als nächstes passieren wird. Die Regierungen haben traditionell langsam, wenn nicht gar statisch, auf technische Probleme reagiert und ich kann mir nicht vorstellen, dass sich das ändert. Und selbst wenn es eine koordinierte internationale Reaktion auf diesen Brief gäbe, ist es wahrscheinlich, dass die Beteiligten viel langsamer vorgehen würden als die Systeme, die sie angeblich stoppen wollen.

Und was bedeutet das für uns?

Wenn die Zukunft unklar ist, müssen wir uns schnell – sehr schnell – mit der Gegenwart abfinden. Denn die meisten von uns sind noch nicht so weit.

Wir leben heute in einer Welt, in der ein Bild des Papstes, das scheinbar eine komisch aussehende Pufferjacke trägt, innerhalb weniger Stunden millionenfach geteilt werden kann, bevor die meisten derjenigen, die es teilen, überhaupt darüber nachdenken, dass es sich um eine Fälschung handeln könnte.

Viel wichtiger ist jedoch folgendes Szenario: Wir könnten z.B. eine Nachricht erhalten, die so aussieht und sich auch so liest, als wäre sie von einem guten Freund geschrieben worden – es aber nicht ist.

Bis jetzt waren die meisten Betrügereien, die es gab, generisch und relativ einfach – im Wesentlichen Hunderte von verschiedenen Variationen des alten Klassikers “Mein Onkel besaß eine Diamantenmine”.

In dieser schönen neuen KI-Welt könnten die Betrüger anstelle eines offensichtlich gefälschten Onkels, der eine Diamantenmine besitzt, Sie möglicherweise über Ihren Onkel kontaktieren, der eine chemische Reinigung besitzt – falls Ihr Onkel tatsächlich eine besitzt. Und so weiter.

Wir sind jetzt an einem Punkt angelangt, an dem die KI es den Betrügern ermöglicht, mit ein wenig Recherche maßgeschneiderte, personalisierte Botschaften zu erstellen, die viel überzeugender sind und viel eher ankommen.

Und wenn Sie nicht einmal mehr den echt aussehenden Nachrichten trauen können, die Sie erhalten, worauf können Sie dann noch vertrauen?

Die Antwort ist, der Nummer zu vertrauen, die sie liefert: Der mit Abstand zuverlässigste Maßstab für die Beurteilung des Wahrheitsgehalts von Inhalten ist und bleibt die Datenspur und der Status des mobilen Geräts, mit dem sie geliefert werden.

Über Mobiltelefone werden um ein Vielfaches mehr Inhalte verschickt als über alle anderen Medien zusammen – und die große Mehrheit der Nutzer hat eine lange und detaillierte Historie, die mit einer einzigen Nummer verknüpft ist

Durch die Verwendung von Live-Telekommunikationsdaten erhalten Sie also einen viel klareren Einblick, wer hinter einer Nachricht steckt, als wenn Sie nur den Tonfall lesen würden.

Wir sind noch nicht an einem Punkt angelangt, an dem gewöhnliche Benutzer Zugang zu diesen unschätzbaren Datenressourcen haben, aber kommerzielle Unternehmen schon – und sie können in Sekundenbruchteilen für Peanuts darauf zugreifen.

Es gibt einfach keine Entschuldigung dafür, dass Sie Ihre Mitarbeiter potenziellen KI-gesteuerten Blags und Betrügereien aussetzen, wenn sie eine Warnung mit rotem Licht erhalten könnten, die nicht auf dem Text einer Nachricht basiert, sondern auf der Nummer, die sie gesendet hat.

Im Moment ist dies die wertvollste Möglichkeit, sich gegen den Einsatz von Schurken-KI zu schützen.

Die Zukunft wird sicherlich neue Gefahren bringen, wie der Musk-Brief andeutet, aber wir müssen abwarten, welche das sind.