Nos forums plombés par l'IA et les inscriptions bidons

Problèmes pratiques, casse-têtes administratifs : Peut-être qu'un(e) participant(e) de ce forum pourrait vous répondre ?

Modérateurs : superuser, Yves

Yves
Messages : 10834
Inscription : 08 sept. 2004
Localisation : Paris

Nos forums plombés par l'IA et les inscriptions bidons

Message par Yves »

La situation devient compliquée à gérer. Les inscriptions bidons sont de plus en plus nombreuses et de plus en plus difficiles à identifier.

De vrais gens ou des bots (robots) s’inscrivent sous des identités crédibles (pseudos et mails).

Il est impossible de les repérer de prime abord.

Ils ouvrent de nouvelles discussions sur des thématiques plus ou moins cohérentes avec les orientations éditoriales de nos forums. Puis, quelques jours (voire quelques semaines) plus tard, ils y injectent des liens renvoyant vers des sites à vocation commerciale.

Un aspect assez inattendu (mais logique) permet de les identifier le plus souvent : Leurs messages sont exempts de fautes d’orthographe et autres fautes de frappe grossières. C’est la raison pour laquelle, je pense que nous avons affaire majoritairement à des contributions générées par IA (intelligence artificielle).

Ce phénomène inédit, apparu il y a moins d’un an, risque de nous contraindre à fermer définitivement nos forums.

Je passe parfois plus de temps à gérer ces inscriptions (et leurs messages) qu’à animer nos contenus. Par ailleurs, les liens commerciaux (vers des sites de rencontres, de placements financiers, vers des organismes de formation…) décrédibilisent notre engagement militant. Plus gênant encore, ces contenus artificiels découragent celles et ceux qui souhaitent échanger ici sérieusement.

En effet, un sujet plutôt intéressant peut être ouvert par un de ces « robots ». Il générera des premiers échanges encourageants mais sera abandonné par son « auteur » qui, parfois, modifie son message initial (en y glissant un lien commercial qui n’y figurait pas).

C’est très pénible.

À chaque fois qu’une nouvelle « personne » s'enregistre, je me pose la question de savoir si cette inscription est sérieuse.

À cela s’ajoute les trolls bien réels, de vrais humains cette fois, qui polluent nos contenus au prétexte d’être en désaccord (sur la guerre en Ukraine, l'épuration ethnique en Palestine, la préférence nationale à l’accès aux droits sociaux…). Les sujets de fâcheries sont nombreux et certains nuisibles s’évertuent à les rendre plus tendus.

Ils savent qu’ils n’ont rien à faire ici, qu’ils peuvent s’exprimer ailleurs sur des réseaux compatibles avec leurs positions, mais non, ils insistent. Nous devons alors les bannir. Malheureusement, ils se réinscrivent deux ou trois semaines plus tard. Un jeu du chat et de la souris usant. Sans doute l’effet recherché.

Nous nous accordons un peu de temps pour prendre une décision. Les forums seront fermés début juin pour une semaine.

Il se pourrait, par exemple, que nous conservions actifs les forums en prise avec les préoccupations quotidiennes des demandeurs d’emploi : « Posez vos Questions » et « Accompagnement des chômeurs ». Nous renoncerions aux généralistes : « Exprimez-vous » et « Vos Infos ». C’est une option.

Nos forums y perdraient forcément en attractivité avec une baisse importante de leur audience. Se posera donc la question de leur prolongation. Je crains que d’ici la fin de l’année nous soyons contraints d'y renoncer.

Voilà où nous en sommes.

Merci à celles et ceux qui m’aident à identifier les inscriptions indésirables. Les "connards" comme on les appelle ici qui ne sont peut-être que des "machines". C'est bien ça le plus rageant, le plus frustrant. On passe probablement notre temps à traquer des "connards" qui n'existent même pas. :shock:
Eric
Messages : 293
Inscription : 01 juil. 2023

Re: Nos forums plombés par l'IA et les inscriptions bidons

Message par Eric »

Ce serait très triste pour de nombreuses personnes la fermeture définitive.
Je me permets Peut-être une solution serait de demander, lors d’une nouvelle inscription , de fournir soit un numéro de téléphone, ou de re- valider l’inscription par un code par exemple ?.
Trinita
Messages : 325
Inscription : 16 oct. 2022

Re: Nos forums plombés par l'IA et les inscriptions bidons

Message par Trinita »

Les messages publiés sous différents pseudonymes, avec chaque fois un lien renvoyant vers un site différent mais ayant tous le même hébergeur, il y a quelques semaines, j'avais pensé qu'il s'agissait plutôt d'un connard que d'une IA. Et si ça c'était une IA, il devait y avoir un connard derrière, pour la guider.

Y aurait pas moyen d'attaquer, un connard pareil ? Je demande, mais je sais bien que c'est pas évident, même quand on est habitué aux actions en Justice. Et au final ça ne fait que des préoccupations* en plus.

Cette histoire de forum qui pourrait fermer à cause des IA, ça me fait repenser à ce que j'avais imaginé il y a quelques mois : Les vrais gens qui, en ayant plein de l'dos** de ce qu'est devenu internet avec tous les escrocs et les IA, s'en détourneraient. Malheureusement, on nous IA - euh, on nous y a - quelque peu lié pieds et poings...

Autre réflexion : Si les IA s'expriment correctement, c'est qu'elles n'apprennent pas en "lisant" sur internet, si ?

* J'ai fait un effort pour ne pas écrire emmerdes.
** Et là, pour ne pas écrire cul.
Yves
Messages : 10834
Inscription : 08 sept. 2004
Localisation : Paris

Re: Nos forums plombés par l'IA et les inscriptions bidons

Message par Yves »

Il y a les "connards humains", notamment les petits malins qui ouvrent des sujets et les modifient par la suite en y glissant des liens commerciaux. Il y a aussi les "connards machines" qui, nous l'avons vu à plusieurs reprises, engagent des discussions sur des thématiques parfois éloignées de notre environnement éditorial.

Sans parler des trolls. C'est un autre sujet !

En moyenne, 30 à 40 "personnes" cherchent à s'enregistrer chaque jour. Nous réussissons à limiter les inscriptions bidons, mais, pour répondre à Éric, IL Y AURA TOUJOURS DES FAILLES DANS LES PROCÉDURES D'INSCRIPTION.

Tu peux rajouter toutes les étapes de validation que tu veux, les "machines" finiront toujours par les contourner.

Après, je ne dis pas : Les organisations (entreprises, administrations, banques…) qui ont du fric peuvent dédier une équipe à plein temps à la sécurisation de leurs sites, de leurs plateformes et transactions. Nous, nous n'avons pas les moyens. Un budget dérisoire (moins de 1.000 euros par an).

Mais comme l'écrit Trinita, c'est toute la "mécanique" du Web qui est bouleversée par l'IA et le sera plus encore dans les mois qui viennent. L'IA permet de générer des photos (dans tous les registres) plus vraies que nature, des contenus rédactionnels cohérents (parfois pertinents), des vidéos, des films, des personnages et scénarios virtuels… L'IA peut évidemment orienter votre utilisation d'Internet à votre insu par la mise en avant de certains contenus et le "shadow banning" (bannissement) de contenus qui pourraient vous intéresser mais "qu'on" ne veut pas vous montrer… 

Il faut avoir conscience de cette réalité même si l'on se croit "indépendant" et "autonome".

La preuve sur nos forums : On a déjà eu des sujets intéressants ouverts par des "robots", sur lesquels nous nous précipitons pour apporter nos témoignages, qui s'éteignent aussi rapidement parce que leurs "auteurs virtuels" s'en désintéressent aussitôt. On se sent alors floué. On prend le temps de partager une expérience, un ressenti, des conseils… POUR RIEN puisque la personne censée "animer" la discussion n'existe pas. :shock:

Ça fait bizarre d'écrire ça, mais c'est la réalité.

Jamais je n'aurais imaginé il y a 10 ou 15 ans, écrire des choses pareilles. Je pense que déjà des robots IA répondent à des robots sur des forums ou sur des réseaux sociaux. Ils sont programmés pour élaborer une conversation fictive et crédible.

Tout cela par exemple pour orienter celles et ceux, de vrais humains cette fois, vous et moi, qui suivent la discussion, vers des offres commerciales, des produits, des services, des propositions politiques… Que sais-je.

Moi, je ne vais pas passer mon temps à discuter avec des IA. J'ai autre chose à faire de ma vie. Et ça va devenir de plus en plus compliqué de faire le tri entre les contenus réels et virtuels. :wink:
Isnard
Messages : 38
Inscription : 18 mai 2025

Re: Nos forums plombés par l'IA et les inscriptions bidons

Message par Isnard »

Je pense que "444" est un peu trop léger
Partout où je vais c'est plus compliqué pour l'IA
Raspou
Messages : 186
Inscription : 23 janv. 2024

Re: Nos forums plombés par l'IA et les inscriptions bidons

Message par Raspou »

je pense qu'on a atteint les limites de l'exercice comme on a atteint les limite de la liberté d'expression sur les grands réseaux : youtube, facebook et compagnie. Le système a repris la main sur l'internet à l'exception de quelques poches de résistance du dark web (web clandestin ) et quelques crypto monnaies vraiment anonymes comme Monero. C a cette fin de contrôle global qu'ils développent l'iA capable d'analyser les contenus écrits et audiovisuels mis en ligne toutes les seconde dans le monde. Pednant une quinzaine d'années, ils n'ont pas eu la maîtrise du machin. C bien fini maintenant. On retrouve cette IA partout dans les procédures de surveillances, de contrôles, de censures, de répression judiciaire, de validation, de sécurité.... L'IA peut aujourd'hui déterminer en quelques secondes si votre vidéo de 2 heures contient des propos qui peuvent vous conduire devant les tribunaux .

Cette IA est aujourd'hui en capacité de se développer de se perfectionner par elle même. :shock: C ainsi qu'ils la testent sur les contenus ouverts . Elle intervient de façon autonome et inter-agit avec des humains. On ne fera beintôt plus de différence entre l'homme et le computer. Des milliardaires comme Musk et Zuckerberg y investissent leur fortune dans ces développements car C l'avenir.

Actuchomage est un champ d'expérimentations parmi d'autres. Ils testent la capacité des IA a intervenir dans des échanges entre humains, à s'adapter aux conversation pour en maîtriser les codes et les subtilités (réactions des intervenants, degré d'acceptation ou de contestation....). Ces paramètres rentrent dans la machine lui permettant de s'adapter aux circonstances diverses mieux que le fait un cerveau humain.

On participe tous avec ou sans consentement. L 'unique moyen d'y échapper est de sortir de la matrice . Dans quelques années émergeront de puissants mouvements de rébellion. Ce n'est ps par hasard si les patrons de la Silicon valley interdissent à leurs enfants de passer leur vie devant leurs écrans. Ils saven eux qu'ils préparent le grand formatage de l'humanité qui s'opère par internet.

Je conseille à Actuchom de se retirer du game parce que la partie est perdue . Sauf à conserver comme Yves le propose quelques forums pratiques et techniques . Seules les copines et copains ayant de réelles expériences terrain comme Paulactu pourront y intervenir. Donc l'audience restera marginale.

Je ne suis pas optimiste !!!! :roll:
Isnard
Messages : 38
Inscription : 18 mai 2025

Re: Nos forums plombés par l'IA et les inscriptions bidons

Message par Isnard »

Dans pas longtemps, le DE posera ses questions à l'IA et discutera avec elle
Il aura l'équivalent de 10 000 conseillers en face de lui :mrgreen: :mrgreen:
Trinita
Messages : 325
Inscription : 16 oct. 2022

Re: Nos forums plombés par l'IA et les inscriptions bidons

Message par Trinita »

Isnard a écrit : 27 mai 2025 Je pense que "444" est un peu trop léger
Partout où je vais c'est plus compliqué pour l'IA
Il faut m'expliquer ce commentaire, Isnard, parce que là j'ai eu un doute quant à votre humanité. :)
Raspou a écrit : 27 mai 2025 On participe tous avec ou sans consentement. L 'unique moyen d'y échapper est de sortir de la matrice . Dans quelques années émergeront de puissants mouvements de rébellion.
Il y a quelques années, je m'suis dit que les résistants du futur s'en prendront aux data centers.

Je n'suis pas optimiste non plus. Entre les humains qui me semblent de plus en plus abrutis et les robots qui progressent...
Isnard
Messages : 38
Inscription : 18 mai 2025

Re: Nos forums plombés par l'IA et les inscriptions bidons

Message par Isnard »

Trinita a écrit : 27 mai 2025
Isnard a écrit : 27 mai 2025 Je pense que "444" est un peu trop léger
Partout où je vais c'est plus compliqué pour l'IA
Il faut m'expliquer ce commentaire, Isnard, parce que là j'ai eu un doute quant à votre humanité. :)
Par exemple, faire glisser des images, reconnaitre des formes et j'en passe
A mon avis, l'IA n'y arrive pas encore
Bref ne pas lui donner du texte, l'équivalent d'un gâteau pour elle
Trinita
Messages : 325
Inscription : 16 oct. 2022

Re: Nos forums plombés par l'IA et les inscriptions bidons

Message par Trinita »

Merci.
Raspou
Messages : 186
Inscription : 23 janv. 2024

Re: Nos forums plombés par l'IA et les inscriptions bidons

Message par Raspou »

Isnard a écrit : 27 mai 2025 Dans pas longtemps, le DE posera ses questions à l'IA et discutera avec elle
Il aura l'équivalent de 10 000 conseillers en face de lui :mrgreen: :mrgreen:
C sûr !!!!

L'IA remplacera un jour les conseillers FT. On sai t déjà que des millions d'emplois vont êtres impactés dans les services et le conseil.... même les avocats sont sur la sellette. L'IA maîtrisera mieux que quiconque la jurisprudence des 10 dernières années.

D'ici peu tu téléphoneras au 3949 et ce sera l'IA qui t'accompagnera, elle sera en capacité d'évaluer tes preuves de recherche d'emploi ou la pertinence de ton cv.

L'IA se fonde sur des trilliards de données collectées pour étayer son expertise en tous domaines techniques, technologiques , scientifiques. Elle peut évaluer ton potentiel à retrouver un emploi à partir de de la compilations de milliers de CV, candidatures, annonces et embauches avérées dans tous les secteurs d'activité. Elle pourra dire qu'au regard de ton profil professionnel, de ton âge, de ta formation.... tu mettras entre 5 et 8 mois pour retrouver un boulot à tel niveau de rémunération. Toutes ces infos sont aujourd'hui disponibles . C du Big Data. Du traitement de données à grande échelle.

Dans le médical on s'attend à des avancées révolutionnaires. L'IA pourra établir les protocoles de soins les plus performants en s'appuyant su le suivi de centaines de milliers de patients confrontés à telle ou telle maladie. Aucun médecin spécialiste ne peut rivaliser sur le diagnostic et la prescription d'un traitement. ça se fait déjà en Corée du sud. Dans les cliniques en pointe, C l'ordinateur qui établit le diagnostic.

L'IA c fantastique . Tout dépend quelle utilisation tu en fais. Comme l'atome !!!! :mrgreen:
Isnard a écrit : 27 mai 2025 Par exemple, faire glisser des images, reconnaitre des formes et j'en passe
A mon avis, l'IA n'y arrive pas encore
Bref ne pas lui donner du texte, l'équivalent d'un gâteau pour elle
très juste !!!! :wink:
Yves
Messages : 10834
Inscription : 08 sept. 2004
Localisation : Paris

Re: Nos forums plombés par l'IA et les inscriptions bidons

Message par Yves »

On peut en effet renforcer la sécurisation des nouvelles inscriptions par l'implémentation d'un module plus sophistiqué.

Mais je rejoins l'analyse de Raspou. Nous avons atteint les limites de l'exercice, tout simplement parce que cela fait 21 ans que nous existons et que nous ne ferons jamais "mieux" que ce qui a déjà été fait.

Nous avons pris la décision de "prolonger" ces forums parce qu'ils étaient encore utiles (grâce essentiellement à Paulactu, reconnaissons-le).

Tout le reste (auquel je contribue beaucoup), c'est du blabla, de la discussion de comptoir… Mais c'est aussi agréable de discuter de tout et de rien. :wink:

Comme je l'ai écrit ailleurs : "Le jour où Paulactu prendra une retraite complète :wink: nous tirerons le rideau".

Là, on sent quand même que l'activité se tasse (peu de nouvelles inscriptions sérieuses et d'interventions pertinentes).

On se donne un peu de temps… Puis viendra la période estivale qui est traditionnellement calme… On avisera en septembre.

Moi aussi, je tourne en rond. Je suis maintenant installé dans le train-train du retraité. Je pense avoir "atteint les limites de l'exercice". Je me sens un peu dépassé par la technologie. Les évolutions du Web ne m'enthousiasment guère. C'est comme ça. J'ai vécu le meilleur depuis 30 ans : Le Web sans censure, imaginatif, sans IA, sans trop de concurrence aussi (ça c'est important)… 

J'ai connu une époque où un petit site comme le nôtre pouvait interviewer des candidats à l'élection présidentielle (Bayrou, Le Pen, Besancenot…) et en sortir des retranscriptions vues par + de 500.000 personnes. Ou mettre en ligne des vidéos (à l'époque pas si lointaine des Gilets Jaunes) consultées 200.000, 300.000 fois ou plus.

Aujourd'hui, ce n'est plus possible à notre niveau. Parce qu'on a vieilli (il faut l'admettre) et qu'il faut surtout être présent, ACTIF ET HYPER RÉACTIF sur une large palette de réseaux (Tik Tok, Instagram, X…). Ce n'est pas ma came ! :roll:

On prolonge l'expérience Actuchomage et ses forums le plus longtemps possible mais il y a un moment où ça va s'arrêter. On s'en approche. :wink:

Merci pour vos commentaires et pour l'intérêt porté.
Isnard
Messages : 38
Inscription : 18 mai 2025

Re: Nos forums plombés par l'IA et les inscriptions bidons

Message par Isnard »

Les messages postés ici avec l'IA manquent d'humanité.
C'est comme cela qu'on les reconnait

Un DE, pour un 1er message sur un forum, n'écrit pas comme ça
Et c'est toujours le même style : bonjour merci pour vos réponses et aucune faute,

Ca me fait penser aux recruteurs qui reçoivent des CV faits par IA alors que c'est un truc très personnel
Ils ne se font plus avoir
Yves
Messages : 10834
Inscription : 08 sept. 2004
Localisation : Paris

Re: Nos forums plombés par l'IA et les inscriptions bidons

Message par Yves »

Isnard a écrit : 28 mai 2025 Les messages postés ici avec l'IA manquent d'humanité.
Forcément, c'est "artificiel". :wink:

Mais comme ce sont souvent des machines qui procèdent au premier examen des CV (dans les grosses boites), ça ne change pas grand-chose. :wink:

C'est l'IA qui sollicite un poste chez l'IA !

Avant c'était un être humain qui postulait chez un être humain.

C'est beau le progrès ! :wink:
ZNATION
Messages : 558
Inscription : 01 févr. 2024

Re: Nos forums plombés par l'IA et les inscriptions bidons

Message par ZNATION »

Comme c'est étrange, je viens de voir le sublime film de Charlin Chaplin, Les Temps Modernes, qui dénonçait déjà en partie tout ça en 36.
Mais quelle tristesse de constater que l'humain n'apprend pas grand chose de ses erreurs, non, lui il préfère se taper le mur et... crever !
Répondre