Die Realität hat heutzutage einen schweren Stand: Immer mehr Texte, Bilder und Videos werden von AI generiert, und die Unterscheidung zwischen echten und synthetischen Inhalten ist kaum mehr möglich. Manche Beobachter warnen bereits vor einem «epistemischen Kollaps»: Wenn sich echte und künstlich erzeugte Inhalte nicht mehr unterscheiden lassen, geht das Vertrauen in digitale Informationen rasch verloren.
Abhilfe sollen digitale Wasserzeichen schaffen, wie sie der AI-Anbieter Anthropic für seine Claude-Modelle eingeführt hat. Das Verfahren beruht auf einem einfachen Prinzip: Bei der Textgenerierung beeinflusst das Sprachmodell die Wahrscheinlichkeiten bestimmter Wortfolgen und hinterlässt dadurch ein statistisches Muster, das sich mit einem speziellen Prüfverfahren nachweisen lässt. Dieses Muster bleibt übrigens beim Kopieren eines Textes erhalten, kann allerdings durch umfangreiche Überarbeitungen beseitigt werden.
Zum Video
In folgendem Video informiert Ivo Hajnal über die Hintergründe – und beantwortet die Frage, wie Nutzer AI-generierte Inhalte grundsätzlich bewerten.
Zu den Folien
Die Folien lassen sich hier downloaden.
