I moderatori volontari di Stack Overflow disattivano gli strumenti a causa di una nuova politica segreta che ostacola la rimozione dell'intelligenza artificiale

Un certo numero di moderatori di Stack Overflow hanno dichiarato uno "sciopero di moderazione generale" per protestare contro l'ordine di non rimuovere contenuti generati dall'intelligenza artificiale "al di fuori di circostanze estremamente ristrette".

Le due questioni chiave sono innanzitutto che i moderatori si sentono incapaci di svolgere efficacemente il loro ruolo di controllo della qualità a causa della nuova politica; e in secondo luogo, che la politica è stata loro imposta senza un’adeguata consultazione.

"I moderatori non sono più autorizzati a rimuovere le risposte generate dall'intelligenza artificiale sulla base del fatto che sono generate dall'intelligenza artificiale, al di fuori di circostanze estremamente ristrette. Ciò si traduce nel consentire effettivamente a quasi tutte le risposte generate dall'intelligenza artificiale di essere pubblicate liberamente, indipendentemente dal consenso stabilito dalla comunità su tali risposte. contenuto", hanno scritto i mod in una lettera aperta.

"Crediamo profondamente nella missione principale della rete Stack Exchange: fornire un archivio di informazioni di alta qualità sotto forma di domande e risposte, e le recenti azioni intraprese da Stack Overflow, Inc. sono direttamente dannose per tale obiettivo," hanno aggiunto.

Il sito è ancora in funzione, ma è probabile che il volume di spam e di contenuti non contrassegnati aumenti, soprattutto da quando anche uno strumento chiamato SmokeDetector, sviluppato da una rete volontaria chiamata Charcoal per StackOverflow per rilevare lo spam, ha smesso di funzionare. "Attenzione: Charcoal sta partecipando allo sciopero a livello di rete, quindi rimarrà chiuso finché questa politica sull'intelligenza artificiale non verrà abbandonata", si legge in un avviso in un thread di discussione del sito.

DevClass ha parlato con la moderatrice norvegese Zoe, che è tra i firmatari. "Finora ci sono 15/24 mod attivi su SO (se ho contato bene) che sono ufficialmente in sciopero, e il resto semplicemente non ha la possibilità di tenere il passo con i volumi di segnalazione," ci ha detto.

Lo sfondo è che StackOverflow sembra avere difficoltà a dare un senso all'impatto degli strumenti di intelligenza artificiale come GitHub Copilot e ChatGPT sul suo sito di domande e risposte. Il traffico è diminuito. La reazione iniziale dell'azienda è stata quella di vietare l'uso di ChatGPT per pubblicare risposte Stack Overflow tramite una "politica temporanea", con l'approvazione della comunità, ma un post ufficiale dello staff afferma anche che "non abbiamo deciso alcuna politica generale a livello di rete riguardo vietare ChatGPT o altri contenuti generati dall'intelligenza artificiale è necessario o utile in questo momento." Esiste una distinzione tra Stack Overflow, il sito degli sviluppatori, e Stack Exchange, una famiglia di siti che copre una vasta gamma di argomenti diversi, sebbene Stack Overflow sia di gran lunga il più trafficato.

La scorsa settimana il CEO Prashanth Chandrasekar ha pubblicato un post positivo sul ruolo dell'intelligenza artificiale in Stack Overflow e che "l'ascesa di GenAI è una grande opportunità per Stack. Circa il 10% della nostra azienda sta lavorando su funzionalità e applicazioni che sfruttano GenAI che hanno il potenziale per aumentare il coinvolgimento ." Chandrasekar ha scritto di avere "l'intelligenza artificiale e la comunità al centro"; ma le azioni dei moderatori suggeriscono che l'aspetto comunitario è attualmente in dubbio.

Il fattore scatenante dell'attuale crisi è stata l'istruzione data lunedì della scorsa settimana (un giorno festivo) ai moderatori di Stack Overflow in un forum ufficiale ma privato: "I moderatori sono stati informati, tramite messaggi di chat appuntati in varie stanze dei moderatori (non un metodo normale), di visualizzare un post nel team dei moderatori che istruiva tutti i moderatori a smettere di usare i rilevatori di intelligenza artificiale (come descritto sopra) nell'intraprendere azioni di moderazione," si legge in un post. I dettagli dell'istruzione non sono pubblici. Il vicepresidente della comunità Philippe Beaudette ha affermato che "i contenuti generati dall'intelligenza artificiale non vengono identificati correttamente in tutta la rete", che "il rischio di falsi positivi è molto elevato" e "prove interne suggeriscono fortemente che l'applicazione eccessiva di sospensioni per i contenuti generati dall'intelligenza artificiale potrebbe allontanare un gran numero di contributori legittimi al sito." Ha detto che ai moderatori è stato chiesto di "applicare uno standard di prova molto rigoroso per determinare se un post è scritto dall'intelligenza artificiale quando si decide di sospendere un utente". Tuttavia, i moderatori affermano che la descrizione della politica pubblicata da Beaudette "differisce notevolmente dalle linee guida di Teams... che non siamo autorizzati a condividere pubblicamente".