OpenAI wird in einer Sammelklage vorgeworfen, Nutzerkonversationen ohne angemessene Transparenz an externe Auftragnehmer weitergegeben zu haben. Das Unternehmen nutzt das interne Programm "Project Lily", bei dem Contractor echte Nutzergespräche lesen und bewerten, um das KI-Modell zu verbessern.
Zwei kalifornische ChatGPT-Nutzer haben eine Sammelbeschwerde gegen OpenAI eingereicht, die dem Unternehmen vorwirft, Nutzerkonversationen ohne angemessene Offenlegung an externe Auftragnehmer weiterzugeben. Das Gericht im Northern District of California muss sich mit der Beschwerde befassen, während OpenAI bis zum 13. Oktober eine Stellungnahme einreichen muss.
Das interne Programm "Project Lily" sieht vor, dass von Personalvermittlern eingestellte Auftragnehmer echte ChatGPT-Prompts lesen, Nutzerkonversationen zusammenfassen und vier verschiedene Modellreaktionen auf einer Skala von eins bis sieben bewerten. Dieses Verfahren ist ein grundlegendes Element des maschinellen Lernens: Menschen bewerten die Antworten der KI, diese Bewertungen fließen ins Training ein, damit das Modell lernt, welche Antworten bevorzugt werden. Allerdings wurden Nutzer nicht ausreichend darüber informiert, dass echte Menschen ihre Chats lesen.
Der Beschwerde zufolge filtern automatisierte Systeme Konversationen zwar vor der menschlichen Überprüfung, doch dieser Filter erfasst nicht immer alle sensiblen Inhalte. Die Reviewer erhalten Zugriff auf "User Memories Summaries" mit Informationen wie geografischem Standort oder Beruf des Nutzers. Da ChatGPT über 900 Millionen wöchentliche Nutzer hat und viele die Plattform wie ein persönliches Tagebuch nutzen, könnten damit vertrauliche Daten wie Gesundheitsinformationen, persönliche Probleme oder rechtliche Fragen offengelegt werden.