Proposition de nouveau réseau social

Nous sommes nombreux à quitter tel ou tel réseau social (X, Facebook, TikTok…) suite à l’augmentation des politiques de modération et des fake news. Et je soutiens ces mouvements.

A contrario, si ces mêmes personnes se disent que sur BlueSky ou Mastodon c’est mieux, je crains qu’elles ne se fourvoient. En effet, les modèles de publication sont sensiblement les mêmes, et les raisons pour lesquelles elles ont quitté ces réseaux seront fortement présentes…
Ainsi ai-je eu l’idée d’imaginer un réseau social avec une IA d’avertissement quant à la qualité des contenus :

• haineux
• sexuel
• fake
• extrémiste
• etc.

Cela aura plusieurs impacts :

• possibilité de filtrer les contenus selon ces critères (par défaut, tous désactivés, mais certains corps de métier ont besoin d’y accéder)
• avertir l’utilisateur du potentiel caractère de sa publication
• valider ou invalider le « jugement » de l’IA
• donner une réputation auprès des utilisateurs selon le jugement des contenus postés
• demander un croisement-regroupement d’infos pour vérifier la véracité d’un post

De nombreux services peuvent déjà répondre aux besoins techniques (Google Perspective, Detoxify, etc.). Il y aura toujours des risques de faux-positifs/négatifs, qu’il sera possible d’indiquer.

Si un tel projet venait à être mis en place, il aura des conséquences sur la législation internationale, car bien que les critères de « toxicité » soient universels, ils ne sont pas perçus de la même manière selon les cultures. D’autres notions plus subtiles, comme l’ironie ou le sarcasme, seront également difficiles à évaluer (même s’il existe une manière d’écrire le sarcasme eN aLtErNaNt La CaSsE).

Et pour le nom, je l’appellerai Socrates, en référence aux 3 filtres (bon, vrai, utile).