La startup slovaque Elv.ai obtient 500 000 € pour atténuer la cyberhaine grâce à l'IA et aux modérateurs humains

Elv.ai, basée à Bratislava, en Slovaquie, une startup qui a un impact significatif dans la lutte contre la cyberhaine et la propagation de la désinformation, a annoncé lundi avoir obtenu un financement de 500 000 € du fonds slovaque CB ESPRI Impact One, qui se concentre sur des projets. avec des bénéfices sociaux positifs mesurables.

En combinant la puissance de l’intelligence artificielle (IA) et des modérateurs humains, elv.ai fait d’Internet un espace de débat plus sûr.

Avec un récent financement, l'entreprise slovaque étend sa mission de protection de la crédibilité des médias et des institutions publiques sur les réseaux sociaux.

Elv.ai a lancé son produit en République tchèque, où il protège les discussions et les réseaux sociaux de Prima TV et de la maison d'édition Economia.

Depuis son lancement en Slovaquie, elv.ai a enregistré plus de 2 500 000 commentaires haineux ou de désinformation sur plus de 16 000 000 et a identifié plus de 5 000 faux profils.

En République tchèque, sur plus de 2 millions de commentaires surveillés sur 44 profils, jusqu'à 504 000 étaient des contenus haineux, soit 24 pour cent.

« Nous constatons que l’espace médiatique a considérablement changé et que la nécessité de protéger les discussions en ligne et les réseaux sociaux de la haine s’accroît. Dans notre Slovaquie natale, nous surveillons et modérons les discussions d'environ un tiers du marché médiatique et aidons plusieurs grandes institutions qui souhaitent contrôler les publications de leurs discussions en ligne : sans désinformation, canulars ou discours de haine », déclare Jakub Šuster, co-fondateur et PDG d'elv.ai.

« Nous sommes heureux d'avoir rapidement trouvé, même en République tchèque, des médias conscients qui considèrent qu'il est de leur devoir de protéger leurs fans et leurs utilisateurs contre les contenus haineux et la désinformation », déclare Šuster.

Elv.ai : Atténuer la cyberhaine grâce à l'IA et aux modérateurs humains

La montée de la cyberhaine et la propagation de la désinformation posent des défis importants dans le paysage numérique actuel.

En conséquence, Elv.ai a pris la responsabilité de modérer les discussions en ligne et les réseaux sociaux afin de se protéger contre les discours de haine.

Elv.ai a été fondée par Jakub Šuster, Gabriel Tóth, Ľudovít Ďurman et Milan Dubec, en réponse à la guerre hybride et à l'invasion de l'Ukraine par la Russie en 2022.

Fondé à l'origine comme un projet à but non lucratif par l'agence de communication slovaque New School Communications, elv.ai a été créé pour filtrer les contenus haineux et protéger les discussions en ligne.

La demande pour un tel service est devenue évidente, conduisant à la création d'une startup distincte dédiée au développement de son propre outil d'IA pour l'analyse de texte.

Aujourd’hui, elv.ai s’appuie sur une combinaison de technologies et de facteurs humains.

En utilisant l'apprentissage automatique et des modérateurs humains, elv.ai peut identifier avec précision et supprimer rapidement les contenus inappropriés et haineux.

La dynamique et le contexte du langage nécessitent souvent une intervention humaine pour reconnaître les nuances linguistiques que la technologie peut négliger.

En raison de la dynamique et du contexte du langage, il utilise l’apprentissage automatique et des modérateurs humains qui contrôlent l’IA et reconnaissent d’éventuelles nuances linguistiques non captées par la technologie.

Le résultat est la suppression transparente des contenus inappropriés et haineux dans les plus brefs délais.

Des médias et des institutions publiques slovaques renommés utilisent actuellement cet outil.

Parmi les plus importantes figurent les chaînes de télévision Markíza et JOJ, les stations de radio Expres et Evropa 2 et le magazine en ligne Refresher. elv.ai gère actuellement le contrôle du contenu des discussions de plus de 100 profils pour 30 clients, dont les réseaux sociaux slovaques de la Commission européenne.

Parmi les nouveaux clients en République tchèque figurent Prima TV et la maison d'édition Economia.

« Nous avons décidé d'investir dans elv.ai parce que nous pensons que cultiver l'espace en ligne améliore l'atmosphère sociale dans son ensemble. En tant que fonds d'impact, nous nous intéressons au retour financier et à l'impact positif sur la société. Nous saluons les efforts visant à utiliser la technologie pour atténuer les contenus de désinformation sur les réseaux sociaux, qui devraient servir à connecter les gens et non à propager la haine. Nous voyons le potentiel de l'outil elv.ai non seulement sur les marchés tchèque et slovaque, mais également ailleurs sur le marché européen », déclare Miroslav Beblavý, PDG du CB ESPRI Impact One Fund.