Intelligenza artificiale e Wikipedia

Thread che nasce da un aneddoto ma che è destinato, temo, ad arricchirsi nel tempo di molti esempi...

KappaSavys porta in PdC Ettore Canu con una argomentazione scritta dall'Intelligenza artificiale. La PdC viene annullata e Fresh Blood scrive all'utente "In ogni caso è assolutamente da evitare di far scrivere le motivazioni all'intelligenza artificiale". In effetti, da un po' di tempo (e anche nella giornata di oggi, evito di dire dove) noto commenti che sono scritti con l'ausilio dell'IA. L'IA ha uno stile inconfondibile (o almeno, ce l'ha ancora, per fortuna, chisssà tra qualche anno...). Su en.wiki ricordo alcune discussioni su questo e anche in occasione dell'elezione dei membri dell'U4C alcuni candidati copia-e-incollavano le risposte che ChatGPT o Gemini davano al posto loro. Se l'uso si diffonderà, l'IA distruggerà Wikipedia non solo dall'esterno (perché la gente userà l'IA anziché WP) ma anche dall'interno (perché gli utenti saranno dei passacarte dell'IA). Che dico distruggerà WP? Distruggerà la scrittura.

O sono troppo catastrofista e reazionario? E' possibile immaginare impieghi delll'IA in Wikipedia che sarebbero utili - ad esempio nel patrolling, o anche per analizzare rapidamente e ritrovare in fretta informazioni nelle pagine di discussione - ma penso che l'abitudine di usare l'IA per scrivere i commenti, se arginabile, andrebbe arginata. Ai miei occhi, non è sostanzialmente diversa dal meatpuppetry.

Gitz wrote

Thread che nasce da un aneddoto ma che è destinato, temo, ad arricchirsi nel tempo di molti esempi...

KappaSavys porta in PdC Ettore Canu con una argomentazione scritta dall'Intelligenza artificiale. La PdC viene annullata e Fresh Blood scrive all'utente "In ogni caso è assolutamente da evitare di far scrivere le motivazioni all'intelligenza artificiale". In effetti, da un po' di tempo (e anche nella giornata di oggi, evito di dire dove) noto commenti che sono scritti con l'ausilio dell'IA. L'IA ha uno stile inconfondibile (o almeno, ce l'ha ancora, per fortuna, chisssà tra qualche anno...). Su en.wiki ricordo alcune discussioni su questo e anche in occasione dell'elezione dei membri dell'U4C alcuni candidati copia-e-incollavano le risposte che ChatGPT o Gemini davano al posto loro. Se l'uso si diffonderà, l'IA distruggerà Wikipedia non solo dall'esterno (perché la gente userà l'IA anziché WP) ma anche dall'interno (perché gli utenti saranno dei passacarte dell'IA). Che dico distruggerà WP? Distruggerà la scrittura.

O sono troppo catastrofista e reazionario? E' possibile immaginare impieghi delll'IA in Wikipedia che sarebbero utili - ad esempio nel patrolling, o anche per analizzare rapidamente e ritrovare in fretta informazioni nelle pagine di discussione - ma penso che l'abitudine di usare l'IA per scrivere i commenti, se arginabile, andrebbe arginata. Ai miei occhi, non è sostanzialmente diversa dal meatpuppetry.

Tema interessante.

Sarei curioso di sapere in base a cosa ha giudicato Fresh che quella roba sia scritta certamente con l'IA e idem per te.

Condivido che la prospettiva sia quella di una cannibalizzazione, come del resto -se ne leggono saggi in giro- wiki ha cannibalizzato da anni il web come luogo policentrico e variegato di ricerca di info, centralizzando e monopolizzando il sapere-per-le-masse. Difficile stabilire se sia stato bene o male, non c'è forse ancora prospettiva storica (enciclopedicità :-p) per la questione.
Per l'IA sarà lo stesso, ma l'ironia della cosa è che l'IA si nutre letteralmente di wiki, basandosi su essa per alimentarsi... Se poi lo fa (probabilmente si) anche per le "discussioni" insensate ed irrazionali che vi si svolgono, cosa potrà mai andar male?...

TrameOscure wrote

Sarei curioso di sapere in base a cosa ha giudicato Fresh che quella roba sia scritta certamente con l'IA e idem per te.

Lo stile di scrittura dell'IA è molto peculiare e perciò riconoscibile. In parole povere, direi che è uno stile "da secchione", chiaro e soprattutto molto logico nella scansione narrativa (introduzione, sviluppo per punti, conclusione), quindi rigido - uno stile personalissimo a causa della sua assoluta mancanza di personalità. Periodi brevi concatenati in modo fluido ma piatto. Comunque online trovi svariati "AI writing detector". Per l'italiano vedo che c'è questo; non so se funziona bene, ma dice che ci sono il 68% di probabilità che il testo di KappaSavys sia generato da IA (si sbaglia: le probabilità sono 100%).

Diciamo anche che è stato un uso molto ingenuo della AI: su Wikipedia, dove si impone un approccio spesso troppo poco formale, quel testo è veramente fuori luogo, se non altro per lunghezza.
Sarebbe forse bastato semplimente tagliare (senza alcuna modifica) le parti salienti, compito che richiede 2-3 secondi (ma evidentemente è troppo sofisticato per l'editor medio di it.wiki):

"Voce che si limita principalmente a riportare informazioni legate alla sua attività online e al numero di follower, fonti deboli e insufficienti, tono promozionale, enfasi marcata sui successi editoriali e sui numeri legati al suo seguito sui social media."

Gitz wrote

...chiaro e soprattutto molto logico nella scansione narrativa (introduzione, sviluppo per punti, conclusione),

ok, quindi come il 50% di quello che scrivo io...

...quindi rigido - uno stile personalissimo a causa della sua assoluta mancanza di personalità. Periodi brevi concatenati in modo fluido ma piatto. Comunque online trovi svariati "AI writing detector". Per l'italiano vedo che c'è questo; non so se funziona bene, ma dice che ci sono il 68% di probabilità che il testo di sia generato da IA (si sbaglia: le probabilità sono 100%).

Addirittura 100%? perchè KappaSavys è un tuo sock?

Affermare che vi siano certezze di riconoscere un testo generato da IA con nullo margine d'errore è un azzardo.
Non è possibile stabilire con sicurezza assoluta l'origine di un testo attribuito a un modello testuale generativo, bensì in modo probabilistico, con un buon margine d'errore, ma non nullo.
Tuttavia, le capacità umane possono dare origine a testi che simulano in modo accettabile i modelli linguistici generativi.
Per questi motivi, attribuire un testo ad una IA con una certezza del 100% non è praticabile.

Credo si sia trattato semplicemente di un esperimento fatto da KappaSavys che vedendo la sua pagina utente sembra un appassionato di informatica.

Ho dato un'occhiata ai suoi contributi ma non sembra si serva di AI per generare pagine o traduzioni quindi immagino fosse una boutade.

p.s.
che quello fosse un testo generato da AI è talmente lapalissiano che non ci sono discussioni, sicuramente generato da uno che la sa padroneggiare decisamente bene.

itawikinostra wrote

Diciamo anche che è stato un uso molto ingenuo della AI:

Sono propenso a considerarlo un modo trollesco e irrispettoso, più che ingenuo.
1) perchè non si dedica il giusto tempo a valutare il lavoro di altri utenti che (si presume) abbiano dedicato tempo a scrivere la voce
2) perchè -con uno sforzo nullo o minimale- si scarica l'onere di argomentare su chi partecipa alla procedura.

Souljacker wrote

Credo si sia trattato semplicemente di un esperimento fatto da KappaSavys che vedendo la sua pagina utente sembra un appassionato di informatica.

della serie "gioco a buttare in cancellazione della roba usando l'IA per vedere come reagisce la comunità (e l'autore/i della voce)"? Cioè, per sfizio sperimentale?

Ma anche no, grazie. IMHO.

Ingenuo non è di sicuro, quel testo è generato in maniera corretta da qualcuno che sa come si manovra ChatGPT. Che poi la PdC è stata apertta perché l'utente in questione odia  Lyon  è fuor di dubbio. Quel tag E aveva perso di significato almeno 3 anni fa ma nessuno si era mai preso la briga di togleirlo, ma questo è un altro problema che Gitz ha trattato molto bene in passato.

In generale, per me usare l'IA in discussione è una mancanza di rispetto verso gli altri utenti. Significa pretendere che gli altri usino tempo per leggere e rispondere a un papiro che tu non hai impiegato tempo a scrivere. Un po' come chi manda i vocali di cinque minuti, ma anche peggio.

Ingenuo nel senso del post utilizzo, cioè del copy-paste acritico.

canederlo wrote

In generale, per me usare l'IA in discussione è una mancanza di rispetto verso gli altri utenti. Significa pretendere che gli altri usino tempo per leggere e rispondere a un papiro che tu non hai impiegato tempo a scrivere. Un po' come chi manda i vocali di cinque minuti, ma anche peggio.

Pienamente d'accordo. IMHO da stigmatizzare.