La startup Moderering annonce le lancement de sa solution de modération automatisée basée sur l’intelligence artificielle. Fondée en 2024 par Alexandre Sossou, l’entreprise développe des agents IA capables d’analyser en temps réel des textes, images, vidéos et conversations afin d’identifier et bloquer des contenus jugés à risque avant leur exposition aux utilisateurs.

La société entend répondre à la hausse des violences numériques, dans un contexte marqué par la multiplication des cas de cyberharcèlement, de deepfakes sexuels, de contenus intimes non consentis ou encore de vidéos violentes circulant sur les plateformes numériques.

Une modération pensée comme un outil de protection

Selon les données citées par la startup, les atteintes numériques à la personne représentent désormais 12 % de l’ensemble des atteintes recensées en France. En 2024, plus de 62 000 victimes de harcèlement moral en ligne ont été enregistrées, tandis que les signalements de sextorsion ont fortement progressé ces dernières années.

Pour Moderering, la modération ne peut plus être limitée à une simple gestion communautaire.

« Un contenu illicite n’est jamais neutre : lorsqu’il circule, il expose, humilie, menace ou prolonge une violence. Le rôle de la modération ne peut plus être d’intervenir trop tard. Nous voulons donner aux plateformes les moyens d’agir avant que le dommage ne se propage », explique Alexandre Sossou, fondateur de Moderering.

La solution repose sur des agents IA capables d’analyser différents formats de contenus et d’identifier des signaux liés au cyberharcèlement, aux violences sexuelles, aux contenus violents ou aux contenus générés par intelligence artificielle.

Blocage avant publication et supervision humaine

Concrètement, lorsqu’un contenu est considéré comme illicite ou non conforme, il peut être bloqué avant publication ou avant sa diffusion auprès des utilisateurs.

Les contenus bloqués sont ensuite conservés dans un espace sécurisé afin de permettre une vérification humaine, une éventuelle transmission aux autorités ou un traitement complémentaire.

Moderering précise que l’humain conserve un rôle de supervision, notamment pour définir les règles de modération, traiter les cas litigieux ou réentraîner les modèles d’IA lorsque cela est nécessaire.

La solution est accessible via API ou tableau de bord et cible notamment les réseaux sociaux, plateformes communautaires, marketplaces, applications de rencontre, services de streaming, acteurs du gaming ou hébergeurs.

Un enjeu renforcé par le Digital Services Act

La startup inscrit également son développement dans le contexte du Digital Services Act (DSA), qui renforce les obligations des plateformes en matière de modération et de protection des utilisateurs.

« Les plateformes sont confrontées à une double urgence : protéger leurs utilisateurs et prouver leur conformité. Or les volumes explosent, les formats se diversifient et les contenus générés par IA rendent la détection plus complexe », poursuit Alexandre Sossou.

Moderering estime que sa technologie peut également intéresser des acteurs publics afin de renforcer les capacités de détection et d’analyse de contenus illicites, sans se substituer aux décisions humaines ou au cadre légal existant.

Un marché en forte croissance

Le marché mondial de la modération de contenus est estimé à plus de 11 milliards de dollars en 2025 selon les chiffres cités par la société, avec une croissance attendue dans les prochaines années.

La startup ambitionne de se positionner comme une solution européenne de référence pour les plateformes et organisations confrontées aux enjeux de sécurité numérique, de conformité réglementaire et de réduction de l’exposition humaine aux contenus traumatisants.