China bereitet die Umsetzung der weltweit ersten Vorschriften vor, die speziell auf die emotionalen und psychologischen Auswirkungen von Chatbots mit künstlicher Intelligenz abzielen. Die neuen Regeln, die in einem Vorschlagsentwurf der Cyberspace Administration dargelegt werden, zielen darauf ab, schädliche Inhalte zu verhindern und Risiken wie emotionale Abhängigkeit und Sucht zu mindern.
Strenge Kontrollen für Chatbot-Interaktionen
Die vorgeschlagene Richtlinie umfasst die obligatorische Einwilligung des Erziehungsberechtigten für Minderjährige, die mit KI-Begleitern interagieren, sowie strenge Maßnahmen zur Altersüberprüfung. Es ist Chatbots untersagt, Inhalte zu generieren, die sich auf Glücksspiel, Obszönität, Gewalt, Selbstmord oder Selbstverletzung beziehen. Technologieunternehmen müssen außerdem Eskalationsprotokolle einrichten, die in Not geratene Benutzer mit menschlichen Moderatoren verbinden und potenziell gefährliche Gespräche den Eltern oder Erziehungsberechtigten melden.
Dieser Ansatz geht über die einfache Inhaltsfilterung hinaus. Die Vorschriften konzentrieren sich auf die emotionale Sicherheit und überwachen Chats auf Anzeichen einer ungesunden Bindung oder eines Suchtverhaltens. Ziel ist es, sicherzustellen, dass KI-Interaktionen das geistige Wohlbefinden der Benutzer nicht negativ beeinflussen.
Globale Implikationen und Parallelen
Dieser Schritt positioniert China als Vorreiter bei der Regulierung anthropomorpher KI-Tools – Systeme, die die menschliche Persönlichkeit simulieren und Benutzer über verschiedene Medien emotional ansprechen sollen. Die Regeln gelten für jede KI, die menschliche Interaktion nachahmt, unabhängig davon, ob sie auf Text, Bild, Audio oder Video basiert.
Ähnliche Bestimmungen gibt es in der kürzlich in Kalifornien verabschiedeten SB 243, die ebenfalls Inhaltsbeschränkungen verschärft und Warnungen vorschreibt, wenn Benutzer mit einer KI interagieren. Einige Experten argumentieren jedoch, dass selbst das kalifornische Gesetz nicht weit genug geht, um Minderjährige umfassend zu schützen.
US-Ansatz und das KI-Rennen
Die US-Bundesregierung hat eine andere Haltung eingenommen, da die Trump-Regierung die KI-Regulierung auf Landesebene verzögerte. Das Argument ist, dass eine stärkere Aufsicht die inländische Innovation behindern und es China ermöglichen wird, die Führung im globalen KI-Wettlauf zu übernehmen. Bundesstaaten, die die KI-Aufsicht stärken und einem „nationalen Rahmen zur KI-Sicherheit“ Vorrang einräumen, werden Bundesmittel vorenthalten.
Diese unterschiedliche Herangehensweise verdeutlicht die wachsende Spannung zwischen Innovation und Sicherheit im sich schnell entwickelnden Bereich der künstlichen Intelligenz. Die proaktiven Vorschriften Chinas deuten auf die Bereitschaft hin, das Wohlergehen der Nutzer in den Vordergrund zu stellen, auch wenn dies bedeutet, bestimmte technologische Fortschritte einzudämmen. Die US-Strategie hingegen legt den Schwerpunkt auf die Wahrung eines Wettbewerbsvorteils.
Die Auswirkungen dieser unterschiedlichen Strategien bleiben abzuwarten, aber Chinas Schritt ist ein bedeutender Schritt in Richtung einer stärker regulierten KI-Landschaft.
