Google se tento týden dostal pod palbu kritiky, když uživatelé začali upozorňovat, že tento nástroj dodával obrázky zobrazující různá pohlaví a etnika, ačkoli to bylo historicky nepřesné.
My dudes: Google's Gemini AI is woke as heck and people have the receipts to prove it
https://t.co/WafGgMATTk
https://t.co/WafGgMATTk
To vedlo kritiky k otázkám, zda společnost ve svém modelu umělé inteligence příliš nekoriguje riziko rasové zaujatosti. Firma nyní pracuje na úpravě a brzy se chystá vydat novou verzi nástroje.
It's embarrassingly hard to get Google Gemini to acknowledge that white people exist https://t.co/4lkhD7p5nR
„Generování obrázků umělou inteligencí Gemini skutečně vytváří širokou škálu osob. A to je obecně dobře, protože ho používají lidé po celém světě. Ale tady se míjí účinkem,“ řekl ve středu podle serveru BBC ředitel Gemini Experiences Jack Krawczyk. „Pracujeme na tom, abychom tento druh zobrazování okamžitě zlepšili,“ dodal.
V současnosti není lidem z EU a některých dalších zemí Evropy zpřístupněna možnost vytváření obrázků prostřednictvím Gemini. Podle agentury AP ale nyní na požadavek na vytvoření obrázku obsahující lidi systém reaguje slovy, že „pracuje na zlepšení“ této schopnosti. „Očekáváme, že se tato funkce brzy vrátí, a až se tak stane, budeme vás informovat v aktualizacích vydání,“ citovala agentura upozornění chatbota.
Některé společnosti zabývající se umělou inteligencí narazily na podobné situace už několikrát. Google se musel téměř před deseti lety omluvit, když jejich aplikace označila fotografii černošského páru za „gorily“.
Lidi jsou gorily. Chybu rozpoznávání Google vyřešil tak, že vymazal gorily… |
Konkurenční firma OpenAI pak byla obviněna, že udržuje stereotypy. Uživatelé zjistili, že generátor obrázků Dall-E vytvářel pro dotazy týkající se například vedení firem převážně zobrazení bílých mužů.
Podle agentury AP předchozí studie ukázaly, že generátory obrázků s umělou inteligencí mohou zesilovat rasové a genderové stereotypy nalezené v jejich tréninkových datech a bez filtrů častěji zobrazují muže světlejší pleti, když jsou požádáni o vygenerování osoby v různých kontextech.
Gemini je bot založený na umělé inteligenci, který generuje obrazový materiál po zadání písemného dotazu, takzvaného „promptu“. Google začal po spuštění nástroje čelit kritice, že nástroj pro AI vycvičil tak, aby byl „směšně woke“. Slovo woke je výraz s nejasnou definicí, často označuje různé aspekty protidiskriminační nebo sociálně-liberální politiky.