I moderatori di Stack Overflow stanno cercando di impedire ai contenuti spazzatura dell'intelligenza artificiale di inondare il sito

I moderatori volontari di Stack Overflow, un forum popolare per gli sviluppatori di software gestito da Stack Exchange per porre e rispondere a domande, hanno emesso uno sciopero generale sulla nuova politica sui contenuti AI dell'azienda, secondo la quale tutti i contenuti generati da GPT sono ora consentiti sul sito. e le sospensioni sui contenuti AI devono essere interrotte immediatamente. I moderatori si dicono preoccupati per il danno che ciò potrebbe causare, date le frequenti inesattezze delle informazioni dei chatbot.

"Stack Overflow, Inc. ha decretato un divieto quasi totale di moderare i contenuti generati dall'intelligenza artificiale... consentendo tacitamente la proliferazione di informazioni errate ("allucinazioni") e plagio illimitato sulla rete Stack Exchange," si legge in una lettera aperta scritta dai moderatori , che sono tutti volontari eletti dalla comunità.

"Ciò rappresenta una grave minaccia per l'integrità e l'affidabilità della piattaforma e dei suoi contenuti. Con effetto immediato, stiamo attuando uno sciopero di moderazione generale su Stack Overflow e sulla rete Stack Exchange, per protestare contro questo e altri cambiamenti recenti e imminenti alla politica e la piattaforma che ci viene imposta da Stack Overflow, Inc."

La nuova politica, emanata a fine maggio, richiede ai moderatori di smettere di moderare i contenuti generati dall’intelligenza artificiale semplicemente perché sono generati dall’intelligenza artificiale. Senza un’adeguata moderazione dei contenuti generati dall’intelligenza artificiale, tuttavia, i moderatori affermano che la qualità e l’accuratezza delle informazioni di Stack Exchange diminuiranno rapidamente.

"I chatbot AI sono come i pappagalli", si legge in un post dei moderatori su Meta Stack Exchange che spiega ulteriormente le loro richieste. "ChatGPT, ad esempio, non capisce le risposte che ti dà; associa semplicemente un dato prompt alle informazioni a cui ha accesso e rigurgita frasi dal suono plausibile. Non ha modo di verificare che le risposte che ti sta fornendo siano accurate . ChatGPT non è uno scrittore, un programmatore, uno scienziato, un fisico o qualsiasi altro tipo di esperto da cui dipende la nostra rete di siti per contenuti di alto valore. Quando richiesto, si limita a mettere insieme parole in base alle informazioni che è stato addestrato con. Non capisce quello che dice."

Ciò, continua, consente agli utenti di rigurgitare le risposte di ChatGPT senza capirle da soli, il che va contro lo scopo stesso del sito: "Essere un archivio di domande e risposte di alta qualità."

Il contenuto della nuova politica sull’IA è un grosso problema. L’altro, dicono i moderatori, è la mancanza di trasparenza che lo circonda. Scrivono nel post che a dicembre il sito aveva adottato una politica temporanea che vietava qualsiasi utilizzo di ChatGPT a causa della sua "inesattezza generale" e delle violazioni dei requisiti di riferimento del sito. Questa politica è stata supportata sia dai moderatori volontari che dallo staff di Stack Exchange e ha comportato la rimozione di numerosi post e la sospensione degli utenti.

Tuttavia, il 29 maggio, i moderatori scrivono che è stata implementata una nuova politica in privato, che richiede "l'immediata cessazione dell'emissione di sospensioni per i contenuti generati dall'intelligenza artificiale e la cessazione della moderazione dei contenuti generati dall'intelligenza artificiale solo su quella base". Il giorno successivo, è stata rilasciata al pubblico una versione leggermente diversa della politica, senza che la lingua imponesse ai moderatori di interrompere le restrizioni su tutti i contenuti AI.

"La nuova politica ha prevalso sul consenso stabilito dalla comunità e sul precedente supporto del CM, non è stata discussa con nessun membro della comunità, è stata presentata in modo fuorviante ai moderatori e poi ancora più fuorviante in pubblico, e si basa su affermazioni infondate derivate da analisi di dati non revisionati e non revisionabili," ha affermato Letture del post di Meta Stack Exchange.

E continua: "Il fatto che tu abbia sottolineato un punto in privato e uno in pubblico, che differiscono in modo così significativo, ha messo i moderatori in una situazione impossibile e li ha resi bersaglio di essere accusati di essere irragionevoli e di esagerare l'effetto della nuova politica."

I moderatori chiedono anche miglioramenti al sito non legati all’intelligenza artificiale. "Lo sciopero riguarda in gran parte anche un modello di comportamento recentemente mostrato da Stack Exchange, Inc", si legge nel post. "L'azienda ha ancora una volta ignorato le esigenze e il consenso consolidato della sua comunità, concentrandosi invece sui perni aziendali a scapito dei propri Community Manager." Un esempio che elencano è la funzione chat, che secondo loro è disperatamente obsoleta ma è stata ignorata per anni.