Google-Ingenieur suspendiert, nachdem gesagt wurde, dass die KI des Unternehmens empfindungsfähig ist

Google hat letzte Woche einen Ingenieur suspendiert, weil er unter Verstoß gegen die Vertraulichkeitsrichtlinien des Suchgiganten Details eines von künstlicher Intelligenz betriebenen Chatbots öffentlich preisgegeben hatte, ein Schritt, der die jüngste Störung der KI-Abteilung des Unternehmens markiert.

Blake Lemoine, ein leitender Software-Ingenieur in Googles Responsible Artificial Intelligence-Gruppe, wurde in bezahlten Verwaltungsurlaub versetzt, nachdem er seine Besorgnis darüber ausgeräumt hatte, dass der Chatbot, bekannt als LaMDA oder Language Model for Dialogue Applications, ein Bewusstsein erlangt hatte. Lemoine enthüllte seine Suspendierung in einem Medium-Beitrag vom 6. Juni und diskutierte anschließend seine Besorgnis über LaMDAs Empfindungsfähigkeit mit der Washington Post in einer Geschichte, die am Wochenende veröffentlicht wurde.

In seinem Medium-Beitrag sagt Lemoine, dass er ethische Bedenken bei Personen außerhalb von Google untersucht habe, um genügend Beweise zu erhalten, um sie an die Geschäftsleitung weiterzuleiten. Der Medium-Post war „absichtlich vage“ in Bezug auf die Art seiner Bedenken, obwohl sie in der Post-Geschichte detailliert beschrieben wurden. Am Samstag veröffentlichte Lemoine eine Reihe von „Interviews“, die er mit LaMDA führte.

Lemoine reagierte nicht sofort auf eine Bitte um einen Kommentar über LinkedIn. In einem Twitter-Postsagte Lemoine, dass er in den Flitterwochen sei und bis zum 21. Juni für eine Stellungnahme nicht erreichbar sei.

In einer Erklärung wies Google Lemoines Behauptung zurück, dass LaMDA selbstbewusst sei.

„Diese Systeme ahmen die Art des Austauschs nach, die in Millionen von Sätzen zu finden ist, und können jedes fantastische Thema aufgreifen“, sagte Google-Sprecher Brian Gabriel in einer Erklärung. „Wenn Sie fragen, wie es ist, ein Eiscreme-Dinosaurier zu sein, können sie Text über Schmelzen und Brüllen und so weiter generieren.“

Die hochkarätige Suspendierung ist ein weiterer Streitpunkt innerhalb der Ethical AI-Einheit von Google, die eine Reihe von Abgängen überstanden hat. Ende 2020 sagte die prominente KI-Ethikforscherin Timnit Gebru, Google habe sie entlassen, weil sie Bedenken hinsichtlich der Voreingenommenheit von KI-Systemen geäußert habe. Ungefähr 2.700 Googler haben eine unterzeichnet Offener Brief zur Unterstützung von Gebru, die laut Google ihre Position aufgegeben hat. Zwei Monate später war es Margaret Mitchell, die zusammen mit Gebru das Ethical AI Team leitete gefeuert.

Der Forschungswissenschaftler Alex Hanna und der Softwareingenieur Dylan Baker traten daraufhin zurück. Anfang dieses Jahres feuerte Google Satrajit Chatterjee, einen KI-Forscher, der eine Forschungsarbeit angefochten über den Einsatz künstlicher Intelligenz zur Entwicklung von Computerchips.

KI-Sensibilität ist ein häufiges Thema in der Science-Fiction, aber nur wenige Forscher glauben, dass die Technologie zu diesem Zeitpunkt weit genug fortgeschritten ist, um einen selbstbewussten Chatbot zu entwickeln.