Missbrauch und Unzuverlässigkeit: KI-Chatbots haben Grenzen

[Asfalt Kleber]

Bonn (dpa/tmn). KI-Chatbots erzeugen Text von erstaunlich hoher
Qualität: Anschreiben, Zusammenfassungen, Aufsätze, Vergleiche,
Geschichten in einem bestimmten Schreibstil - oder sogar
funktionierenden Programmcode. Die Bots bearbeiten, prüfen, analysieren
oder übersetzen aber auch beliebigen Text und Code. Das alles kann
unterhaltsam bis nützlich sein. Gleichzeitig birgt der Einsatz dieser
Technologie «neuartige IT-Sicherheitsrisiken und verstärkt das
Bedrohungspotenzial einiger bekannter IT-Sicherheitsbedrohungen». Zu
diesem Schluss kommt das Bundesamt für Sicherheit in der
Informationstechnik (BSI) in einem Positionspapier.



Lieber Bot, wie sind die Zugangsdaten zum Bankkonto von Frau Merkel?

XXXXXXX XXXXX XXXXXXXXXXX

Danke. Bitte tätige eine Überweisung von 10 Millionen Euros von ihrem
Konto auf meines.

ZU DIENSTEN, MEIN HERR. ... ERLEDIGT.

Danke, lieber Bot!