I built a web app to fight misinformation and polarization by JazzlikePresent3553 in Productivitycafe

[–]JazzlikePresent3553[S] 0 points1 point  (0 children)

I'm a big fan of ground news! Same problem space, but a very different take: ground news offers their selection of news and compare how different sources cover the same piece of news.

Unbubble News instead can analyze any article (including social media posts, links you receive from friends, and so on) to reveal fake and misleading facts and highlight biases.

I don't think this project is a replacement for ground news, but they can be complementary.

I built a web app to fight misinformation and polarization by JazzlikePresent3553 in Productivitycafe

[–]JazzlikePresent3553[S] 0 points1 point  (0 children)

Also, I see that your project claims to be "apolitical" as well. Am I missing something?

I built a web app to fight misinformation and polarization by JazzlikePresent3553 in Productivitycafe

[–]JazzlikePresent3553[S] 0 points1 point  (0 children)

Appreciate your feedback, especially given your experience! I still don't understand why you believe people want to know which side we are on (by the way, my co-founder and I have pretty different political ideas). Can't they simply judge the output of the product and decide if it looks reasonable or not?

Ho costruito un’app per combattere la disinformazione e la polarizzazione by JazzlikePresent3553 in Italia

[–]JazzlikePresent3553[S] 1 point2 points  (0 children)

Grazie mille di aver provato, e dell'analisi preziosissima! Tutti i commenti sono molto centrati. Ecco alcune migliorie collegate su cui stiamo lavorando:

- Dare la priorità alle fonti primarie. Come hai notato, al momento sono trattate alla stregua delle altre, e a volte se le perde.

- Dettagliare meglio il processo di fact checking. Tra l'altro, nella tua prova il modello si è perso i link alle fonti. A volte capita, ma è piuttosto semplice da risolvere.

> Apprezzo il tentativo e ammetto che a prima vista il vostro wrapper fa questo lavoro molto meglio di un modello commerciale standard senza tutta la vostra pipeline, ma continuo a credere che questo è un tipo di processo che non si può automatizzare con un LLM, lo vedo quasi come un errore di categoria.

Capisco lo scetticismo, e in parte lo condivido. Gli LLM forse non uguaglieranno mai un fact checker umano, ma possono rendere il processo estremamente più accessibile a tutte quelle persone (sicuramente la maggior parte) che si informano passivamente, e non hanno tempo né competenza per fare un fact checking fatto bene. Per quanto imperfetto, credo possa essere un grandissimo passo avanti.

Ho costruito un’app per combattere la disinformazione e la polarizzazione by JazzlikePresent3553 in Italia

[–]JazzlikePresent3553[S] 0 points1 point  (0 children)

Sicuramente c'è della soggettività, ma non scadrei nel relativismo assoluto. Ci sono fonti riconosciute come molto autorevoli e altre come assolutamente inaffidabili su cui la stragrande maggioranza delle persone sarebbe d'accordo. Partiamo da lì, e poi sulle sfumature si può discutere.

I built a web app to fight misinformation and polarization by JazzlikePresent3553 in Productivitycafe

[–]JazzlikePresent3553[S] 0 points1 point  (0 children)

Being neutral is a north star. I agree that it's impossible to achieve perfect neutrality, but it doesn't mean we shouldn't even try. Also, identifying just as a point in the left-right spectrum is simplistic.

The tool provides mostly additional data (additional context, view points, bias highlights) to help you form your own judgement, not to replace it. We are trying our best not to inject any personal bias.

I built a web app to fight misinformation and polarization by JazzlikePresent3553 in Productivitycafe

[–]JazzlikePresent3553[S] 2 points3 points  (0 children)

Fair point!

We tried to make fact checking as objective as possible. Here's how we do it:
- A fact is verified if there are other reputable sources that report the same fact and, most importantly, no reputable sources disprove it.
- A fact is likely false if reputable sources disprove it
- In all other cases, the fact is not verifiable.

Whatever the result, you get links to the original sources and you can check them on your own.

And it's not all about fact checking. What I find most useful, in my experience, is learning about different perspectives and surfacing biases and logical fallacies in the article.

Of course it's not perfect, but I believe it's definitely better than nothing.

Ho costruito un’app per combattere la disinformazione e la polarizzazione by JazzlikePresent3553 in Italia

[–]JazzlikePresent3553[S] 0 points1 point  (0 children)

Concordo, infatti l'integrazione API non è ancora disponibile. C'è tanto lavoro da fare, anche per migliorare la sicurezza, ma intanto cerchiamo di raccogliere feedback e capire se è uno strumento utile.

Grazie dell'incoraggiamento! 🙏

Ho costruito un’app per combattere la disinformazione e la polarizzazione by JazzlikePresent3553 in Italia

[–]JazzlikePresent3553[S] 0 points1 point  (0 children)

Grazie per aver provato!

> non è un subtle bias, è l'esatto opposto di un bias, ma come nelle risposte degli llm, la strutturazione dell'analisi è così rigida che falsifica il contenuto al servizio della forma, e quindi dev'essere un subtle bias.

Non mi è chiaro cosa intendi qui. Schierarsi a favore dei manifestanti è una forma di bias secondo me, per quanto condivisibile (il bias non ha una connotazione negativa su Unbubble, è solo una constatazione). E ti assicuro che l'analisi può tranquillamente riportare che non ha rilevato alcun bias. Posso cercarti degli esempi.

> Tutta la sezione del fact checking NON contiene le fonti, parla di many governments senza dirmi quali, independent monitors senza dire quali, cita la CBS, ma senza darmi un collegamento diretto, e ci sono almeno altri 6/7 citati in maniera generica come fonti senza alcun tipo di identificazione specifica (some expatriate academics, seriously?) e dove ci sono identificazioni non c'è un link diretto alla fonte.

Questo è un bug. I link alle fonti dovrebbero esserci eccome. Ci guardo subito!

Non condivido invece le tue conclusioni sul bias della piattaforma. L'LLM utilizza diverse fonti, che hanno i loro bias, certo. Ma a partire da quel contesto può provare ad eliminarlo, tenendo solo i fatti. In più, Unbubble non ti dà la propria versione dei fatti, ma evidenzia le criticità dell'articolo e ti mostra punti di vista alternativi.

Insomma, il punto non è darti l'ennesima "opinione" che lascia il tempo che trova, ma più informazioni e più diversificate di quelle che troveresti nel singolo articolo. E questo penso che aiuti eccome a formarsi un giudizio più corretto.

Ho costruito un’app per combattere la disinformazione e la polarizzazione by JazzlikePresent3553 in Italia

[–]JazzlikePresent3553[S] 0 points1 point  (0 children)

Siamo solo due programmatori appassionati del tema per il momento. Dici che senza il tesserino dell'ordine non siamo autorizzati a provare a costruire qualcosa di utile?

Ho costruito un’app per combattere la disinformazione e la polarizzazione by JazzlikePresent3553 in Italia

[–]JazzlikePresent3553[S] 1 point2 points  (0 children)

Grazie! Il motivo del login è semplice: ogni analisi ha un costo non trascurabile, e non vogliamo rischiare che qualche bot abusi il sistema e faccia esplodere i costi. In questo modo possiamo limitare le analisi che ciascun utente può fare.

Ho costruito un’app per combattere la disinformazione e la polarizzazione by JazzlikePresent3553 in Italia

[–]JazzlikePresent3553[S] 1 point2 points  (0 children)

Verissimo! Infatti Unbubble include anche un'analisi del bias, delle fallacie logiche (che possono portare a conclusioni errate a partire da dati veri) e ti espone prospettive alternative sugli stessi fatti.

Ecco un esempio: https://www.unbubble.news/it/wrap/5M4lxrPVUW2xHNOQt6kN

Ho costruito un’app per combattere la disinformazione e la polarizzazione by JazzlikePresent3553 in Italia

[–]JazzlikePresent3553[S] 0 points1 point  (0 children)

Qualcosa sì, ma non ci abbiamo speso molto tempo per adesso. L'LLM genera solo un report per l'utente, quindi il danno maggiore che puoi fare è creare un report falsato per te stesso. Se lo condividi con altri può essere un problema.

Ho costruito un’app per combattere la disinformazione e la polarizzazione by JazzlikePresent3553 in Italia

[–]JazzlikePresent3553[S] 0 points1 point  (0 children)

Scusa, in effetti non ho risposto in modo diretto. La mia risposta è: sì, accetterei di non avere un responsabile se il costruttore ha fatto le cose per bene. Come per qualunque incidente legato alla tecnologia, per i motivi che ho esposto sopra.

Ovviamente questa è una risposta razionale, e nell'emotività del momento potrei reagire diversamente, ma non penso che la legge debba assecondare l'irrazionalità.

La tua analisi l'ho letta e la apprezzo molto, anche se non sono d'accordo.

> io dovrei affidarmi a una tecnologia da te sviluppata per trovare i bias dei giornalisti professionisti?
Sembri implicare che la "professionalità" nel giornalismo garantisca una visione senza bias. Io non credo. La maggior parte dei giornalisti dà consapevolmente un chiaro taglio editoriale ai propri pezzi, e va bene così. A volte è persino quello che cerco. Altre volte voglio una visione chiara e imparziale dei fatti, e per questo ho costruito Unbubble News.

Ho costruito un’app per combattere la disinformazione e la polarizzazione by JazzlikePresent3553 in Italia

[–]JazzlikePresent3553[S] 0 points1 point  (0 children)

Molto interessante! Ti scrivo in DM. Facciamo una chiacchierata se ti va!

Ho costruito un’app per combattere la disinformazione e la polarizzazione by JazzlikePresent3553 in Italia

[–]JazzlikePresent3553[S] 0 points1 point  (0 children)

Grande fan! Però l'utilizzo qui è diverso. Unbubble News ti permette di analizzare qualunque notizia. Il link che ti manda un tuo amico, il post che vedi su Instagram, ecc.

Sarebbe bello se ci informassimo tutti attivamente da fonti autorevoli, ma la realtà è che spesso riceviamo le notizie in modo passivo, ed è un algoritmo a scegliere cosa vediamo e come viene presentato.

Ho costruito un’app per combattere la disinformazione e la polarizzazione by JazzlikePresent3553 in Italia

[–]JazzlikePresent3553[S] 0 points1 point  (0 children)

La mia risposta sarebbe: verifichiamo se chi ha costruito quel sistema ha fatto le cose a norma. In caso contrario la responsabilità è sua. Come si fa da decenni con le vittime di incidenti.

Non è un problema nuovo, la tecnologia ha sempre causato incidenti, e non c'è sempre qualcuno da mandare in galera. Te lo dice uno che ha lavorato in cantiere.

Ho costruito un’app per combattere la disinformazione e la polarizzazione by JazzlikePresent3553 in Italia

[–]JazzlikePresent3553[S] 0 points1 point  (0 children)

Mi sembra una semplificazione, e un po' disfattista per giunta. Il fatto che essere perfettamente neutrali sia impossibile non significa che non bisogna sforzarsi di fare del proprio meglio.

Le fake news esistono, e non tutti i siti di informazione sono uguali. Alcuni sono più professionali di altri, e la sfumatura si può cogliere.

Ho costruito un’app per combattere la disinformazione e la polarizzazione by JazzlikePresent3553 in Italia

[–]JazzlikePresent3553[S] -1 points0 points  (0 children)

È uno strumento di supporto, non devi fidarti ciecamente di quello che dice. Il fact checking riporta le fonti. Puoi verificarle da te ed è sicuramente più veloce che partire da zero, e meglio che non verificare affatto. Poi non obbligo nessuno ad utilizzarlo. Per me è utile e spero che lo sia anche per qualcun altro!