Le fondateur et directeur général de Telegram, Pavel Durov, a expliqué les raisons du retrait temporaire de l'application de messagerie de l'App Store d'Apple. Le dirigeant critique que la société de Cupertino ait supprimé l'application de sa boutique sans contacter au préalable Telegram et rend responsable de ce qui s'est passé un "extorqueur" qui a diffusé "du contenu illégal modifié par intelligence artificielle (IA)".
Dans la nuit de mardi, Telegram a cessé d'être disponible sur l'App Store dans plusieurs pays après qu'Apple ait détecté une infraction à ses règles internes, qui interdisent la distribution de matériel d'abus sexuel sur des enfants (CSAM). Quelques heures plus tard, l'application est revenue sur la boutique une fois le contenu signalé supprimé et le profil l'ayant partagé bloqué.
Durov a offert plus de détails dans une publication sur son compte X (anciennement Twitter), où il soutient que le service a été victime d'une attaque orchestrée par un "extorqueur". Selon son récit, cet individu a modifié un ancien message dans un chat de groupe actif pour qu'il affiche "du contenu illégal modifié par IA" lié au CSAM.
Ce type d'attaquants, explique-t-il, se sert de "l'exigence d'une rançon aux propriétaires des groupes en échange de ne pas attaquer leurs communautés". Pour cela, ils opèrent avec des comptes automatisés qui insèrent du contenu illégal dans des groupes publics et, par la suite, le signalent à Apple. L'objectif est de forcer la suppression de communautés légitimes "dont les administrateurs ont refusé de payer".
Dans le cas concret décrit par Durov, en altérant un ancien message du chat, "le contenu est resté caché pour les membres du groupe, ce qui a empêché qu'ils le voient ou le signalent" avant que l'extorqueur lui-même ne le notifie à Apple.
Selon le fondateur de Telegram, cet épisode démontre que "les extorqueurs ont trouvé un moyen de manipuler Apple pour qu'elle réagisse de manière exagérée". Il reproche également à la société d'avoir retiré Telegram de l'App Store sans communication préalable avec la plateforme, ce qui, à son avis, génère un "risque systémique potentiel" pour toute application hébergeant du contenu généré par les utilisateurs.
Telegram et Durov se sont déjà retrouvés au centre du débat sur la responsabilité des plateformes concernant ce que publient leurs utilisateurs. C'est l'un des risques inhérents aux réseaux sociaux et aux services de messagerie : même avec des systèmes de modération avancés, il existe toujours la possibilité que des acteurs malveillants essaient d'exploiter des failles ou des lacunes dans les mesures de sécurité.
Dans ce sens, Durov souligne que "Telegram a une grande expérience dans l'identification des astuces utilisées par des groupes de dénonciateurs coordonnés et dans la protection des communautés légitimes (même lorsque cela comporte le risque que notre propre application soit temporairement supprimée de l'App Store). D'autres plateformes pourraient ne pas être également préparées".