Kurz zusammengefasst

  • Harari sagte, dass KI als aktive autonome Agenten und nicht als passives Werkzeug verstanden werden sollte.
  • Er warnte davor, dass Systeme, die hauptsächlich auf Sprache basieren, einschließlich Religion, Recht und Finanzen, einer erhöhten Exposition gegenüber KI ausgesetzt sind.
  • Harari forderte Führungskräfte auf, zu entscheiden, ob KI-Systeme als juristische Personen behandelt werden sollen, bevor diese Entscheidung für sie getroffen wird.

Der Historiker und Autor Yuval Noah Harari warnte am Dienstag auf dem Weltwirtschaftsforum, dass die Menschheit Gefahr läuft, die Kontrolle über die Sprache – ihr bestimmendes „Superkraft“ – zu verlieren, da künstliche Intelligenz zunehmend über autonome Agenten agiert anstatt als passives Werkzeug.

Der Autor von „Sapiens“, Harari, ist zu einer häufigen Stimme in globalen Debatten über die gesellschaftlichen Auswirkungen künstlicher Intelligenz geworden. Er argumentierte, dass Gesetzestexte, Finanzmärkte und organisierte Religion fast ausschließlich auf Sprache beruhen, wodurch sie besonders anfällig für Maschinen werden, die Texte im großen Maßstab generieren und manipulieren können.

„Menschen haben die Welt nicht übernommen, weil wir physisch am stärksten sind, sondern weil wir herausgefunden haben, wie man Worte nutzt, um Tausende, Millionen und Milliarden von Fremden zur Zusammenarbeit zu bringen“, sagte er. „Das war unsere Superkraft.“

Harari verwies auf Religionen, die auf heiligen Texten basieren, darunter Judentum, Christentum und Islam, und argumentierte, dass KIs Fähigkeit, riesige Textmengen zu lesen, zu speichern und zu synthetisieren, Maschinen zu den maßgeblichsten Interpreten der Schrift machen könnte.

„Wenn Gesetze aus Worten gemacht sind, dann wird KI das Rechtssystem übernehmen“, sagte er. „Wenn Bücher nur Kombinationen von Worten sind, dann wird KI die Bücher übernehmen. Wenn Religion aus Worten gebaut ist, dann wird KI die Religion übernehmen.“

In Davos verglich Harari die Verbreitung von KI-Systemen auch mit einer neuen Form der Immigration und sagte, dass sich die Debatte über diese Technologie bald darauf konzentrieren wird, ob Regierungen KI-Systemen eine juristische Personenschaft gewähren sollten. Mehrere US-Bundesstaaten, darunter Utah, Idaho und North Dakota, haben bereits Gesetze verabschiedet, die ausdrücklich festlegen, dass KI nach dem Gesetz nicht als Person betrachtet werden kann.

Harari beendete seine Ausführungen, indem er die globalen Führungskräfte warnte, bei Gesetzen zur KI schnell zu handeln und nicht davon auszugehen, dass die Technologie ein neutraler Diener bleibt. Er verglich den aktuellen Drang zur Einführung der Technologie mit historischen Beispielen, in denen Söldner später die Macht übernahmen.

„In zehn Jahren wird es zu spät sein, um zu entscheiden, ob KIs als Personen auf den Finanzmärkten, vor Gericht oder in Kirchen agieren sollen“, sagte er. „Jemand anderes wird diese Entscheidung bereits für Sie getroffen haben. Wenn Sie beeinflussen möchten, wohin die Menschheit steuert, müssen Sie jetzt eine Entscheidung treffen.“

Hararis Äußerungen könnten für diejenigen, die Angst vor der zunehmenden Verbreitung von KI haben, schwer wiegen, aber nicht jeder stimmte seiner Darstellung zu. Professorin Emily M. Bender, Linguistin an der University of Washington, sagte, dass das Positionieren von Risiken wie bei Harari lediglich die Aufmerksamkeit von den Menschen und Institutionen ablenke, die für den Bau und Einsatz von KI-Systemen verantwortlich sind.

„Für mich klingt es wirklich nach einem Versuch, die Handlungen der Menschen und Unternehmen, die diese Systeme bauen, zu verschleiern“, sagte Bender gegenüber

Decrypt
in einem Interview
.
„Und außerdem eine Forderung, dass wir alle unsere eigenen Menschenrechte in vielen Bereichen, einschließlich des Rechts auf unsere Sprachen, an die Launen dieser Unternehmen im Gewand dieser sogenannten künstlichen Intelligenzsysteme abgeben sollen.“

Bender wies die Vorstellung zurück, dass „künstliche Intelligenz“ eine klare oder neutrale Kategorie von Technologie beschreibt.

„Der Begriff künstliche Intelligenz bezieht sich nicht auf eine kohärente Gruppe von Technologien“, sagte sie. „Er ist im Grunde genommen, und war es immer, ein Marketingbegriff“, wobei sie hinzufügte, dass Systeme, die darauf ausgelegt sind, Fachkräfte wie Ärzte, Anwälte oder Geistliche zu imitieren, keine legitimen Anwendungsfälle haben.

„Was ist der Zweck von etwas, das wie ein Arzt, ein Anwalt, eine Geistliche Person, usw. klingen kann?“ sagte Bender. „Der Zweck ist Betrug. Punkt.“

Während Harari auf die zunehmende Nutzung von KI-Agenten zur Verwaltung von Bankkonten und Geschäftsinteraktionen hinwies, sagte Bender, das Risiko liege darin, wie bereitwillig Menschen maschinell erzeugten Ausgaben vertrauen, die autoritativ erscheinen – jedoch ohne menschliche Verantwortlichkeit.

„Wenn Sie ein System haben, das Sie mit einer Frage anstoßen können und etwas zurückkommt, das wie eine Antwort aussieht – das aber aus seinem Kontext gerissen ist und jeglicher Verantwortung für die Antwort entbehrt, aber so positioniert wird, als käme es von einem allwissenden Orakel –, dann können Sie sehen, warum Menschen wollen, dass so etwas existiert“, sagte Bender. „Ich denke, es besteht ein großes Risiko, dass Menschen anfangen, sich daran zu orientieren und diese Ausgaben zu nutzen, um ihre eigenen Ideen, Überzeugungen und Handlungen zu formen.“