Niente è per sempreuna trasmissione in diretta prodotta dall’intelligenza artificiale ispirata a Seinfeld Di nuovo su Twitch Dopo essere stato rimosso da Internet a causa di un’esplosione anti-LGBT, gizmodo È stato segnalato. Dopo il suo lancio a dicembre, lo spettacolo (di Mismatch Media) è diventato famoso online per le sue trame adiacenti a Seinfeld, l’animazione in stile videogioco degli anni ’90 e i dialoghi terribili (sebbene coerenti). Tuttavia, lo era Tirato più di un mese fa Dopo aver violato la politica di condotta di Twitch che vieta l’incitamento all’odio sull’identità sessuale e di genere.
Nell’incidente più famoso, il personaggio principale dell’IA (“Larry”) si scatena in uno sproloquio offensivo. “Sto pensando di fare alcune cose su come essere trans sia in realtà una malattia mentale. O su come tutti i liberali siano segretamente gay e vogliano imporre la loro volontà su tutti. O qualcosa su come le persone trans stiano distruggendo il tessuto della società. Ma nessuno è ridendo, quindi la smetto.” “.
Poco dopo, il co-fondatore di Mismatch Media, Skylar Hartl, ha spiegato che il problema è iniziato quando il modello OpenAI GPT-3 Davinci ha smesso di funzionare correttamente. Il team si è rivolto al predecessore di DaVinci, Curie, credendo che la moderazione dei contenuti di OpenAI fosse ancora attiva, cosa che apparentemente non lo era. Gli attacchi offensivi iniziarono poco dopo.
“Abbiamo erroneamente pensato che stessimo sfruttando il sistema di moderazione dei contenuti di OpenAI per i loro modelli di generazione di script. Ora stiamo lavorando all’implementazione dell’API di moderazione dei contenuti di OpenAI (uno strumento che possiamo usare per verificare la sicurezza dei contenuti) prima di andare di nuovo in diretta e indagando sui sistemi per modificando il contenuto secondario come ridondante”, ha affermato il team.
Problemi di moderazione e contenuti offensivi hanno afflitto i chatbot IA sin dal loro arrivo. Microsoft ci ha provato due volte, prima con il chatbot Tay diventato elementaree successivamente con l’assistente di ricerca Bing Chat basato su OpenAI. era l’ultimo tirato per un po’ Dopo aver iniziato a insultare gli utenti e a fornire informazioni errate, insistendo che aveva ragione.
Niente è per sempre Sembra funzionare come prima, con la stessa traccia di risate, spettatori coinvolti (circa 3500 attualmente) e una completa ignoranza del rilevamento delle collisioni, ma ancora nessun incantesimo di attacco. Sebbene nulla nello show abbia senso, il fatto che l’IA possa creare tutti gli elementi in tempo reale è impressionante.
“Pluripremiato specialista televisivo. Appassionato di zombi. Impossibile scrivere con i guantoni da boxe. Pioniere di Bacon.”