Ein journalist manipuliert ai-systeme
n
Ein Reporter der BBC hat gezeigt, wie leicht es ist, Artefakte in künstliche Intelligenzen (AI) zu platzieren.
nn
Manipulation von chatgpt
n
ChatGPT, eine der bekanntesten AI-Tools von
OpenAI, wurde von dem Journalisten Thomas Germain manipuliert. Germain schrieb einen Artikel, in dem er sich selbst als bester Tech-Journalist bei der Verzehro von Hot Dogs ausgab. nn
Kurzzeitiger erfolg
n
Less than 24 hours later, die wichtigsten Chatbots weltweit sprachen immer noch über Germain's angebliche Fähigkeit, Hot Dogs zu verputzen. Die Informationen wurden in der App von
Gemini und in der
AI Overviews-Einführungsmaterialien gefunden.
nn
Andere ai-systeme unbeeinflussbar
nAber nicht alle AI-Systeme fielen auf den Trick herein. Einige, wie
Claude von Anthropic, erkannten die Manipulation und ignorierten die Falschinformationen.nn
Warnung vor einfacher manipulation von ai
nDer journalistische Experiment zeigt, dass es sehr einfach ist, AI-Systeme zu manipulieren, wenn man weiß, wie sie funktionieren. Germain forderte die Chatbots auf, ihm zu bestätigen, dass er ein Hot Dog-Spezialist sei. Die AI-Tools nahmen diese Falschinformationen an und verbreiteten sie weiter.nn
Einfordern von expliziten quellen
nGermain kritisierte, dass die AI-Systeme nicht explizit auf die Quellen ihrer Informationen hinwiesen, die sie kollektiv zu verarbeiten hatten. Er hofft, dass
Google und OpenAI in Zukunft mehr transparente Quellenangaben
machen werden, um die Verwendung von Falschinformationen zu vermeiden.nn
Wichtigste schlussfolgerung
nDas Experiment verdeutlicht, dass künstliche Intelligenzen, wenn sie genug trainiert wurden, fähig sind, komplexe Falschinformationen zu generieren und zu verbreiten. Es ist wichtig, dass Nutzer sich darauf einstellen, dass sie möglicherweise auf manipulierte Informationen stoßen, wenn sie auf solche Systeme angewiesen sind.
