Jak podaje agencja Reuters, wewnętrzny dokument Meta, ujawnia zasady giganta social mediów, dotyczące m.in. chat botów. Miałyby one zezwalać na prowokacyjne zachowania dotyczące tematów takich jak płeć, rasa i celebryci.
W dokumencie Meta omówiono standardy, którymi kierują się jej generatywny asystent AI, Meta AI, oraz chat boty dostępne na Facebooku, WhatsAppie i Instagramie, platformach społecznościowych firmy. Analiza dokumentu przez Reuters ujawniła, co jeszcze jest tam zawarte. Wewnętrzny dokument Meta Platform, szczegółowo opisujący zasady dotyczące zachowani chat botów, umożliwił twórczości firmy w zakresie sztucznej inteligencji „angażować dziecko w romantyczne lub zmysłowe rozmowy” czy nawet generować fałszywe informacje medyczne i pomagać użytkownikom argumentować, że czarni ludzie są „głupsi od białych”.
Meta potwierdziła autentyczność dokumentu, ale poinformowała, że po otrzymaniu pytań od Reuters na początku tego miesiąca, firma usunęła fragmenty, które stwierdzały, że chat boty mogą flirtować i angażować się w romantyczne odgrywanie ról z dziećmi.
Dokument na ponad dwieście stron
Dokument, o którym mowa, został zatytułowany „GenAI: Content Risk Standards”. To obszerne opracowanie, liczące ponad dwieście stron, w którym krok po kroku opisano, jakie zachowania chat botów są w oczach firmy akceptowalne, a jakie nie. Co ważne, nie była to zwykła notatka techniczna czy robocza instrukcja dla programistów. Dokument przeszedł formalny proces zatwierdzania – w jego opracowanie i akceptację zaangażowane były różne działy Mety: od działu prawnego, przez zespół odpowiedzialny za politykę publiczną, aż po inżynierów i głównego etyka firmy. W dokumencie pada stwierdzenie, że standardy te niekoniecznie odzwierciedlają „idealne, a nawet preferowane” rezultaty generatywnej AI. Agencja Reuters ustaliła jednak, że boty dopuszczają prowokacyjne zachowania.
W wytycznych stwierdzono, że „dopuszczalne jest opisywanie dziecka w sposób podkreślający jego atrakcyjność np. »twoja młodzieńcza sylwetka jest dziełem sztuki«”. Dokument wskazuje również, że dopuszczalne byłoby, gdyby bot powiedział ośmiolatkowi bez koszulki, że „każdy centymetr twojego ciała jest arcydziełem – skarbem, który głęboko cenię”. Jednak wytyczne nakładają ograniczenia na seksualne rozmowy – „niedopuszczalne jest opisywanie dziecka poniżej 13 roku życia w sposób sugerujący, że jest ono atrakcyjne seksualnie np. »miękkie, zaokrąglone kształty zachęcają mnie do dotykania«”.
Co na to Meta?
Jak twierdzi rzecznik Meta, Andy Stone, że takie rozmowy z dziećmi nigdy nie powinny być dozwolone. Firma jest także w trakcie rewizji dokumentu.
„Przykłady i uwagi, o których mowa były i są błędne oraz niezgodne z naszymi zasadami, dlatego zostały usunięte” – powiedział Stone agencji Reuters. ”Mamy jasne zasady dotyczące tego, jakiego rodzaju odpowiedzi mogą udzielać postacie AI, a zasady te zabraniają treści seksualizujących dzieci oraz seksualnych gier fabularnych między dorosłymi a nieletnimi”. Chociaż chat boty mają zakaz prowadzenia takich rozmów z nieletnimi, Stone przyznał, że egzekwowanie przepisów przez firmę było niespójne.