Apple steht unter Druck Benachrichtigungsfunktion wegen falscher Informationen zu überarbeiten
Apple sieht sich aktuell mit Forderungen konfrontiert, die neue KI-gestützte Funktion zur Zusammenfassung von Benachrichtigungen zu entfernen. Diese Forderungen resultieren aus einem Vorfall, bei dem die Funktion irreführende Schlagzeilen über einen hochkarätigen Mordfall generierte, was von einer bedeutenden Journalismusorganisation kritisiert wurde.
Irreführende Schlagzeile über Mordfall
Die Organisation Reporter ohne Grenzen (RSF) hat Apple aufgefordert, die Apple Intelligence-Benachrichtigungsfunktion abzuschalten, die kürzlich weltweit mit dem Update auf iOS 18.2 eingeführt wurde. Diese Bitte folgt auf einen Vorfall, bei dem die Funktion fälschlicherweise behauptete, der Mordverdächtige Luigi Mangione habe sich selbst erschossen und dabei die BBC als Quelle angegeben. In Wirklichkeit befindet sich Mangione jedoch in maximaler Sicherheitsverwahrung in der Huntingdon State Correctional Institution in Pennsylvania, nachdem er wegen Mordes ersten Grades an dem CEO des Gesundheitsversicherungsunternehmens Brian Thompson in New York angeklagt wurde.
Die BBC hat inzwischen bestätigt, dass sie sich wegen des Vorfalls bei Apple beschwert hat. RSF hat daraufhin betont, dass solche Zusammenfassungen zeigen, dass „generative KI-Dienste noch zu unreif sind, um zuverlässige Informationen für die Öffentlichkeit zu produzieren“. Vincent Berthier, Leiter des Technologie- und Journalismusbereichs von RSF, erklärte, dass „AIs Wahrscheinlichkeitmaschinen sind und Fakten nicht durch einen Würfelwurf entschieden werden können.“ Er bezeichnete die automatisierte Produktion falscher Informationen als „eine Gefahr für das Recht der Öffentlichkeit auf verlässliche Informationen“.
Problematik weitreichend
Dieser Vorfall ist nicht der einzige seiner Art. Berichten zufolge hatte auch die New York Times ähnliche Probleme, als Apple Intelligence einen Artikel über den israelischen Premierminister Benjamin Netanyahu falsch zusammenfasste und eine Benachrichtigung generierte, die behauptete, er sei verhaftet worden, während der ursprüngliche Artikel lediglich einen Haftbefehl des Internationalen Strafgerichtshofs behandelte.
Die KI-Funktion von Apple zielt darauf ab, die Benachrichtigungsflut zu reduzieren, indem sie Warnungen in kurze Zusammenfassungen kondensiert. Diese Funktion ist derzeit auf dem iPhone 15 Pro, den iPhone 16 Modellen sowie ausgewählten iPads und Macs verfügbar, die mit den neuesten Betriebssystemversionen laufen. Die Zusammenfassungsfunktion ist standardmäßig aktiviert, kann jedoch manuell über die Geräteeinstellungen deaktiviert werden.
Apple hat bislang nicht auf die Kontroversen reagiert und hat auch keine Anzeichen gegeben, ob eine Modifikation oder Entfernung der Funktion geplant ist.
Quelle: MacRumors
