Ju Yong Lee, Université Innopolis - sur la réputation des utilisateurs, la mesure de la confiance et la sécurité des données dans les réseaux sociaux

Ju Young Lee - Responsable du laboratoire de la science des réseaux et des technologies de l'information de l'université Innopolis, professeur associé.

Titulaire d'un doctorat de l'Université de Syracuse(USA). Il a de l'expérience dans les universités et l'industrie (JPMorgan, Sun Microsystems). Le professeur Lee développe des algorithmes permettant de déterminer l'activité et la réputation des utilisateurs de réseaux sociaux. Ses recherches portent sur la réputation de l'informatique distribuée et l'évaluation du degré de nœuds dans un réseau social.

Réputation: virtuelle et réelle

La réputation est la perception de l'utilisateur par d'autres personnes. Dans la vraie vie, cela se produit partout. Que vous le soupçonniez ou non, lorsque vous rencontrez une personne pour la première fois, vous avez certaines attentes ou prémonitions à son égard. Ensuite, dans le processus de conversation ou d’interaction, vous mettez à jour cette présentation. Tous ces facteurs sont inclus dans la réputation.

La réputation ne concerne pas seulement les personnes, mais également les entreprises, les organisations gouvernementales et toutes les structures avec lesquelles nous interagissons. J'utilise rarement les réseaux sociaux et je ne connais que le plusPopulaires: Facebook et Instagram. En eux, les gens communiquent avec des commentaires et des photos. Le concept de réputation sur ces sites populaires n’est pas aussi largement utilisé, car la plupart des interactions sont interpersonnelles. Sur Facebook, nous n'ouvrons pas de dépôt bancaire, ne négocions pas et ne gérons pas les finances. Au sens large, nous n’avons pas besoin de beaucoup de confiance pour la communication sur ces plateformes, car si notre interlocuteur s’avère être une mauvaise personne, nous ne perdrons pas grand-chose.

Le système de réputation est principalement utilisé sur des sites commerciaux tels qu'Amazon et eBay aux États-Unis ou Ozon et Yandex.Market en Russie. Ici, vous avez besoin de confiance entre le vendeur etpar l'acheteur. Si vous payez de l'argent et que les marchandises ne sont pas envoyées, vous perdez quelque chose. Par conséquent, la réputation et la confiance sont importantes pour des raisons économiques. Généralement, ces plates-formes utilisent un système de réputation centralisé, que vous connaissez probablement. Par exemple, Amazon a un système de notation à cinq étoiles, dans lequel vous pouvez écrire au vendeur après avoir reçu les marchandises et le taux. C'est l'un des systèmes de réputation les plus courants. Il est centralisé car il prend le contrôle de l'algorithme. Si vous définissez trois étoiles, puis quelqu'un d'autre - quatre ou cinq, le système calculera automatiquement la moyenne de ces valeurs et montrera le résultat à d'autres utilisateurs. Ce type d'évaluation est très efficace pour les sites commerciaux.

Il existe également des systèmes de réputation décentralisés ou distribués. Ils sont appliqués là où il n'y a pas de centralautorité, par exemple, dans les systèmes de partage de fichiers entre homologues. Aucune autorité ne vous informe sur la réputation d'un autre utilisateur. Mais chacun a sa propre idée de telle ou telle personne. J'ai peut-être interagi avec un utilisateur qui ne m'a pas envoyé de fichier ou dont la connexion est très lente. Et l'autre pourrait avoir une expérience d'interaction très agréable avec lui. Nous avons donc des idées différentes sur cette personne et sa réputation n'est pas la moyenne de nos opinions arithmétiques.

J'essaie de comprendre quels algorithmes sont utilisés dans les réseaux populaires. Par exemple, Stack Overflow ou Quora (populairesystème de questions et réponses - «High-tech»). Vous leur posez une question, puis les gens y répondent. Si la réponse devient plus populaire, l'auteur augmente la réputation. Il s’agit d’un schéma général, mais chaque plate-forme utilise des algorithmes différents. Généralement, leur schéma est basé sur le retour d'informations entre les interactions des utilisateurs: si l'interaction est réussie, la réputation augmente, sinon elle diminue.

Nous avons récemment développé un algorithme totalement indépendant de ce type de retour. La seule chose que nous utilisons est le temps etfréquence d'interaction. Combien de fois nous interagissons affecte vraiment la réputation. Peu importe qu’il s’agisse d’une bonne communication ou non, l’important est son nombre et sa fréquence. Nous avons comparé notre développement avec l'algorithme standard Stack Overflow sur un seul jeu de données. Il s'est avéré que leurs résultats sont très similaires. Cela signifie que sans la connaissance de la perception de l'utilisateur par les autres participants, on peut déterminer avec assez de précision sa réputation.

IA, faux comptes et campagne

Récemment, les réseaux sociaux sont devenus importants en raison du grand nombre d'utilisateurs enregistrés. Maintenant les partis politiques et commerciauxorganisations, un nouveau canal d’influence sur toutes ces personnes. Auparavant, si une entreprise souhaitait promouvoir un produit, elle utilisait des publicités à la télévision ou des banderoles sur le bord de la route. Mais depuis que les réseaux sociaux sont devenus populaires, tout le monde s'est rendu compte que la publicité y est beaucoup plus efficace. Construire le marketing au sein du réseau social coûte moins cher et les informations se répandent beaucoup plus rapidement. Maintenant, il suffit de créer un peu de nouvelles au lieu d’acheter un film coûteux à la télévision.

Le rôle principal dans la vulgarisation des plates-formes sociales a été joué par la jeune génération. Quand j'étais plus jeune, je détestais lire des journaux etautre presse. Dans les réseaux sociaux, tout est différent. Si quelqu'un dit qu'il se passe quelque chose d'intéressant, la rumeur se répandra très vite. Par conséquent, les réseaux sociaux ont remplacé les journaux et magazines traditionnels.

Maintenant, AI peut créer un faux compte et mener sa propre activité. Depuis que les plateformes sociales sont devenues importantesmoyen d’information, ils sont utilisés pour influencer les gens à des fins politiques. Avec leur aide, les partis tentent d'attirer les gens de leur côté. Pour ce faire, ils transmettent un échantillon d'informations qui leur sont bénéfiques. Ceci est mis en œuvre en utilisant des algorithmes d'intelligence artificielle et d'apprentissage. Il est important de choisir le bon groupe de personnes. Si vous voulez être voté pour vous, vous devez choisir la bonne personne. Ils ne devraient pas être votre adversaire ou votre partisan ardent. Cela peut être l'effet inverse. Il est nécessaire de sélectionner des personnes «à la frontière» qui peuvent changer d'opinion. Et, bien sûr, ces personnes sont faciles à identifier en fonction de leurs intérêts et de leurs interactions dans les réseaux sociaux.

La surveillance dans les réseaux sociaux, la Corée et la vulnérabilité des données personnelles

Sur les grands médias et les réseaux sociaux, il est impossible d'éviter les fuites d'informations. Parce que, premièrement, vous le mettez là. Deuxièmement, même si de grandes entreprises comme Facebook prétendent ne pas partager vos informations, leur accord utilisateur long et déroutant, que personne ne lit en réalité, le permettra.

Le principal problème dans le scandale avec Cambridge Analytica est que la société d'analyse a eu accès à ses amis et à leurs données. Ils ont développé une application qui définitopinions politiques des utilisateurs. Facebook était censé fournir des informations uniquement sur les personnes qui l'utilisaient. Bien que, même si la fuite n’ait pas eu lieu, de nombreux algorithmes permettraient de tirer des conclusions sur l’ensemble du réseau, sur la base des données fournies.

Le transfert d'informations à des tiers n'est ni nouveau ni rare. Facebook est une entreprise, pas des OSBL, et elle a besoin defaire un profit. Pour cela, nous devons partager certaines informations avec d'autres entreprises. Comment exactement elle le fait, combien et quelles informations elle donne, personne ne le sait. Donc, l'utilisateur doit être conscient de ce danger dès le début. Tout ce qui concerne les plateformes sociales est apparu récemment. Par conséquent, le gouvernement ne sait pas comment réagir à de tels scandales. Les politiques pertinentes doivent encore être développées. Maintenant, vous êtes le seul à pouvoir protéger vos données. Je ne veux pas dire que vous ne devriez pas utiliser les réseaux sociaux. Ils sont très pratiques et vous permettent de trouver de nouveaux amis. Mais interdire complètement le transfert d'informations à des tiers ne fonctionnera pas - cela arrivera tout le temps. Par conséquent, nous avons besoin de la bonne approche dans ce genre de situation - pas au niveau individuel, mais au niveau gouvernemental.

En Corée, il existe un messager KakaoTalk très populaire. Beaucoup pensaient que l'état cherchaitl’histoire de la correspondance pour savoir comment les gens se rapportent au gouvernement actuel. A cette époque, certains de mes amis ont refusé d'utiliser certains mots. Ils ont déformé les noms et les mots pour éviter l'observation. Je pense que dans de nombreux pays, le gouvernement fait vraiment cela. Bien sûr, ne pas reconnaître publiquement, parce que c'est illégal. Cependant, le gouvernement peut-il utiliser efficacement ces informations? Si vous accusez quelqu'un sur la base d'une photo tirée d'une conversation personnelle, vous devez alors admettre que vous avez regardé cette personne illégalement. Nous ne savons jamais ce qui se passe réellement dans les structures intra-gouvernementales. Au niveau individuel, il n'y a aucun moyen de changer la situation.

Si vous avez suffisamment d’informations, vous pouvez tout savoir sur une personne si vous en avez besoin. Le même cas avec Cambridge Analytica: ils ont seulement développé une application - un petit test psychologique qui permet de conclure sur une personne sur la base de plusieurs questions. Cela leur a permis de déterminer les données politiques des répondants et de les utiliser dans la course électorale. En sachant où vous vivez, dans quelle université vous êtes allé, vous pouvez déterminer votre contexte culturel dans son ensemble. Même en possession d'une petite quantité d'informations: à qui vous adressez-vous, qui est votre ami avec vos amis, pouvons-nous conclure sur tant de choses. C'est pourquoi les informations des utilisateurs sur les réseaux sociaux sont devenues essentielles.