«Bombenanschlag auf Zürcher Rathausbrücke»: ChatGPT erfindet falsche Schlagzeile
Bei der Meldung über den angeblichen Bombenanschlag auf die Zürcher Rathausbrücke verweist die Website newsbot.ch als Quelle auf den Fussballclub BSC Young Boys. Folgt man dem Chatbot-Link auf die Website des Fussballklubs, erfährt man von YB, welche Spieler der ersten Mannschaft in der Nationalmannschaftspause für ihr Land aufgeboten wurden.
Eine Meldung, die in keiner Weise mit dem vermeintlichen Anschlag in Zürich zu tun hat. Trotzdem verbreitete sich die Nachricht und die Stadtpolizei musste die Meldung dementieren. Doch wie kam es dazu?
Statt YB-News meldet die künstliche Intelligenz einen Anschlag
Die Meldungen werden automatisch publiziert. Der News-Aggregator newsbot.ch funktioniert autonom, keine Journalisten befüllen die Seite.
Die Eilmeldungen werden per RSS (Rich Site Summary) gesammelt, einem «Abonnement» für regelmässig aktualisierte Websites wie zum Beispiel für Newsportale. Die künstliche Intelligenz ChatGPT wandelt dann die gesammelten Nachrichten in diesem Abo-Feed in lesbare News um. Anschliessend werden diese auf Social-Media-Kanälen gestreut, wie der Website-Betreiber erklärt.
Nun wurde offenbar aus dem Hinweis, welche YB-Spieler für welche Nationalmannschaft aufgeboten wurden, eine Meldung über einen Anschlag mit Todesopfern mitten in der Zürcher Innenstadt.
ChatGPT erfindet plausible, aber falsche Meldungen
Der Betreiber der Website erklärt im Gespräch mit ZüriToday, dass die Sportnachricht falsch eingelesen worden ist. Die Nachricht wurde tatsächlich im Ressort Sport abgelegt, wo eigentlich die YB-Meldung hingehören würde. Aber vermutlich sind die Nachrichten zu YB aufgrund technischer Mängel gar nicht bis zur KI gelangt, weshalb diese aufgrund fehlender Informationen eine Meldung erfand. Eine Meldung, die zwar plausibel sein soll, in Wirklichkeit aber nie passiert ist.
ChatGPT erleichtert zwar die Arbeit und generiert in Kürze gut lesbare Inhalte. Die Krux: Die künstliche Intelligenz kann ihre eigenen Resultate nicht hinterfragen.
Kontrollmechanismen sollen weitere ChatGPT-Erfindungen unterbinden
Man teste einen Kontrollmechanismus, damit solche Falschmeldungen nicht mehr generiert werden, meldet der Betreiber. Weiter will man verhindern, dass die künstliche Intelligenz zukünftig zufällige Meldungen generiert, wenn keine Informationen vorliegen. «Die Reichweite von newsbot.ch ist zum Glück sehr gering», so der Betreiber. Es sei wichtig, zu sehen, was wo schiefläuft. Die entsprechenden Seiten wurden mittlerweile vom Betreiber entfernt.
Wer absichtlich Falschmeldungen verbreitet, kann belangt werden
Die Stadtpolizei Zürich hat die Falschmeldung auf X (ehemals Twitter) dementiert. Man wolle der Meldung nicht unnötig Aufmerksamkeit geben. Werden allerdings absichtlich Fake News verbreitet, mit dem Ziel, die Bevölkerung in Angst und Schrecken zu versetzen, kann ein Verfahren eingeleitet werden, wie es bei der Stadtpolizei auf Anfrage heisst.