OpenAI zatrudnia ludzi do czytania prywatnych rozmów w ChatGPT

Pełny tekst

Usprawnianie modeli AI na bazie czatów nigdy nie było tajemnicą. Teraz jednak wyszło na jaw, że nie robi tego żaden algorytm, a ludzie z krwi i kości.

Jak wynika z ustaleń 404 Media, OpenAI prowadzi wewnętrznie "Project Lily" , w ramach którego pracownicy przeglądają rozmowy użytkowników ChatGPT i oceniają odpowiedzi sztucznej inteligencji. Chodzi przede wszystkim o to, czy są one pomocne, naturalne i zgodne z intencją użytkownika oraz czy model nie przesadza z pochlebstwami, protekcjonalnym tonem, emoji i czy nie brzmi "zbyt AI".

Google, Anthropic oraz chińskie laby AI robią to samo

Recenzenci nie widzą nazw użytkowników, a rozmowy przechodzą przez filtr usuwający dane osobowe. Problem w tym, że rozwiązanie nie jest nieomylne. Według raportu do pracowników trafiały informacje prywatne , a przy części rozmów dostępne było również podsumowanie pamięci użytkownika, mogące zawierać jego zainteresowania, wcześniejszy kontekst, przybliżoną lokalizację i inne wrażliwe szczegóły.