Mit dem AI Act will die EU als weltweit erster Wirtschaftsraum einen rechtlichen Rahmen für den Einsatz und die Entwicklung von Künstlicher Intelligenz schaffen. Welche KI-Regeln sieht der Entwurf vor? Was bedeutet der AI Act für den Einsatz von Chatbots?
Allen, die bereits heute einen KI Chatbot einsetzen bzw. einen Einsatz planen, sei vorab gesagt: Freuen Sie sich, dass die Regeln kommen, denn sie nehmen Chatbots definitiv aus der Schusslinie der Sorgen und Bedenken!
Warum die EU KI-Technologie regulieren will
Der rasante Fortschritt auf dem Gebiet der Künstlichen Intelligenz weckt bei vielen Unternehmen Hoffnungen, zum Beispiel bei medizinischen Diagnosen oder bei der Verarbeitung großer Datenmengen.
Künstliche Intelligenz ist allerdings auch mit vielen Ängsten verbunden. Befürchtet wird zum Beispiel, dass KI-Systeme unkontrolliert und intransparent eingesetzt werden oder dass sie den Datenschutz verletzen.
Die Europäische Union will hier Sicherheit schaffen und mit dem AI-Act einen verbindlichen Rahmen für Entwickler und Nutzer von KI-Technologien vorgeben. Gleichzeitig soll die KI-Verordnung dazu beitragen, dass auch kleine und mittlere Unternehmen KI einsetzen können, ohne finanziell oder administrativ erdrückt zu werden.
Wie die EU die Risiken von KI bewertet
Fast alle europäischen Akteure sind sich darüber einig, dass ein gesetzlicher Rahmen für den ethischen Einsatz von KI-Systemen notwendig ist. Einige Technologie-Unternehmen befürchten jedoch die Regulierungskeule. Der CEO vom ChatGPT-Entwickler OpenAI drohte bereits mit einem Rückzug aus dem europäischen Markt, wenn der AI Act wie geplant verabschiedet wird.
AI-Act unterscheidet KI-Anwendungen in vier Risiko-Stufen
Die EU hebt in ihrem Vorschlag hervor, dass nicht von jeder Anwendung mit künstlicher Intelligenz das gleiche Risiko ausgeht, im Gegenteil. Viele KI-Anwendungen, so die Autoren des Entwurfs, weisen wenig bis gar keine Risiken auf und können vielmehr maßgeblich zur Lösung gesellschaftlicher Herausforderungen beitragen.
Die europäische KI-Verordnung sieht daher eine Einteilung in vier verschiedene Risiko-Stufen vor:
KI-Anwendungen mit keinem oder minimalem Risiko
Unter KI-Anwendungen mit keinem bzw. minimalem Risiko versteht die EU Anwendungen, die KI einsetzen, um eine bessere Nutzererfahrung zu erreichen, ohne direkt mit Nutzern zu interagieren oder persönliche Daten zu verwenden. Darunter fallen zum Beispiel Spam-Filter, die bereits seit vielen Jahren von Internet-Service-Providern, E-Mail-Dienstleistern und Unternehmen eingesetzt werden, um ihre Klienten und Mitarbeiter vor ungewollten Mails zu schützen.
KI-Anwendungen mit begrenztem Risiko
Als begrenztes Risiko stuft der AI Act KI-Systeme ein, die mit Menschen interagieren. Zu dieser Gruppe zählen Chatbots. Für den rechtlich sichereren Einsatz von Chatbots sieht die EU eine einzige Vorgabe vor:
- KI Chatbots sollen transparent Nutzer sollen immer wissen, dass sie mit einer KI sprechen, um in der Lage zu sein, jederzeit eine informierte Entscheidung für oder gegen die Weiterverwendung zu treffen.
Hochrisiko-KI-Anwendungen
Als Hochrisiko-Anwendungen stuft die die europäische KI-Verordnung KI-Systeme ein, die in der kritischen Infrastruktur eingesetzt werden. Diese Systeme könnten das Leben, die Gesundheit, den Zugang zu Bildung oder die Sicherheit von Menschen beeinflussen. Als Beispiele werden die Strafverfolgung, die Medizin oder die Produktion von Sicherheitstechnologie genannt. Nach dem Willen der EU sollen solche Hochrisiko-Systeme strengen Regulierungen unterliegen.
Anwendungen mit inakzeptablem Risiko
Als Anwendungen mit einem inakzeptablen Risiko bewertet der AI Act KI-Systeme, die eine klare Bedrohung für die Sicherheit, den Lebensunterhalt und die Rechte von Menschen darstellen, wie etwa soziale Bewertungssysteme oder die Echtzeit-Gesichtserkennung im öffentlichen Raum.
Hochrisiko-KI-Systeme sind von EU-Regulierung besonders betroffen
Um das Risiko von KI-Anwendungen einzuschätzen, wird nach dem Willen des AI Acts jede Anwendung mit den entwickelten ethischen und transparenten Anforderungen an KI abgeglichen.
Hochrisiko-Systeme sollen anschließend in einer EU-weiten Datenbank registriert werden. Als Voraussetzung für einen Markteintritt in die EU müssen die Hersteller solcher Systeme eine Konformitätserklärung unterzeichnen und ihre Anwendung mit dem CE-Siegel zertifizieren lassen.
Nach dem Markteintritt sind die Behörden für die Marktüberwachung zuständig. Auch die Nutzer sollen zukünftig eine wichtige Rolle bei der Überwachung der als hochriskant eingestuften Systemen spielen.
KI-Regulierung: Chatbots bergen nur „begrenztes Risiko“
Die geplante Regulierung der KI-Technologie legt hauptsächlich den Fokus auf Entwickler von Hochrisiko-Anwendungen. Chatbots betrachtet der Entwurf der EU explizit als Beispiel für KI-Anwendungen mit begrenztem, also geringem Risiko genannt.
Für die Entwicklung und den Einsatz eines Chatbots ist laut europäischem AI Act lediglich sicherzustellen, dass:
- Der Chatbot als solcher erkennbar ist und sich nicht als echter Mensch ausgibt
- Der Nutzer jederzeit die Möglichkeit hat, die Interaktion abzubrechen.
Für Unternehmen, die Chatbots einsetzen oder den Einsatz planen, ist der AI Act damit eine gute Nachricht. Durch die Regulierung werden alle Marktteilnehmer zur transparenten und ethischen Gestaltung ihrer Chatbots verpflichtet.
Außerdem geht von dem AI Act das positive Signal an Kunden und Verbraucher aus, dass man sich um die Sicherheit und den Schutz von Persönlichkeitsrechten kümmern will. Man will es nicht allein Technologie-Konzernen überlassen, wie KI weiterentwickelt und eingesetzt wird.
Die Risiko-Aufteilung des AI Acts trägt der großen Bandbreite an Systemen Rechnung. Die Vorgaben für Chatbots sind so minimal, dass sie keine Hürde darstellen, sondern bestätigen, was Chatbots wie Cobuddy längst erfüllen.
Noch mehr Tipps für erfolgreiche Chatbots
Diese Blogbeiträge enthalten weitere interessante Tipps und geben Ihnen Anregungen für erfolgreiche Chatbot-Anwendungen:
Schau dir Cobuddy Videos an!
Sieh dir die Chatbot Videos von Cobuddy mit KI Avatar Alisha auf YouTube an!
Fazit: Durchstarten mit Cobuddy
Der AI-Act der EU zielt darauf ab, einen klaren rechtlichen Rahmen für KI-Technologien zu schaffen und damit die mit ihrem Einsatz verbundenen Risiken zu minimieren. Die Verordnung trägt dem Rechnung und schätzt KI Chatbots wie Cobuddy als Anwendungen mit begrenztem Risiko ein.
Die Chatbot-Lösung Cobuddy erfüllt die jetzt im EU-Entwurf formulierten Transparenzanforderungen von Beginn an. Unternehmen, die den Einsatz eines KI Chatbots erwägen, sollten sich daher nicht von den Regulierungsbemühungen verunsichern lassen, sondern die Gelegenheit nutzen, um das volle Potenzial von KI auszuschöpfen.
Der AI-Act der EU soll für Sicherheit und fairen Wettbewerb sorgen und Persönlichkeitsrechte schützen. Mit einem Chatbot wie Cobuddy erfüllen Sie bereits heute die Anforderungen der EU und schaffen eine transparente und ethische Benutzererfahrung für Kunden und Mitarbeiter.