OpenAI arbeitet an Betrugsprävention im Unterricht

Zuletzt aktualisiert am 12. September 2024 von Lars Weidmann

OpenAI, das Unternehmen hinter ChatGPT, erforscht derzeit Möglichkeiten, um zu verhindern, dass Schüler bei Hausaufgaben schummeln. Laut einem Bericht der Wall Street Journal entwickelt OpenAI eine Methode, um Texte zu erkennen, die von ihrer KI geschrieben wurden. Diese Methode nennt sich Text-Watermarking und könnte helfen, herauszufinden, ob ein Aufsatz von einer KI stammt.

Herausforderungen und Überlegungen

Das Watermarking funktioniert durch digitale Wasserzeichen im Text, die zur Identifizierung verwendet werden können. Diese Technologie ist zwar vielversprechend, hat aber ihre Tücken. Zum Beispiel könnte sie durch Übersetzungen oder Umformulierungen von Texten umgangen werden. So könnten kreative Schüler Tricks anwenden, um das Watermarking zu umgehen.

Ein weiteres Problem ist, dass diese Technologie auch legitime Nutzer benachteiligen könnte, wie nicht-englische Muttersprachler, die KI nutzen, um ihre Texte zu verbessern.

OpenAI arbeitet daran, eine Lösung zu finden, die sowohl den fairen Einsatz von KI fördert als auch Missbrauch verhindert. Die Herausforderung besteht darin, eine Balance zu finden, die den Bildungsbereich schützt, ohne die Vorteile von KI zu schmälern.