Bonsoir à toutes et tous,
Les brèves du 27 mars au 2 avril 2023 sont disponibles !
En vous souhaitant une bonne lecture ainsi qu’une bonne semaine,
Le Collectif
Eliza, le chatbot conversationnel accusé d’avoir poussé un homme au suicide
Un homme belge s’est suicidé après avoir conversé pendant six semaines avec un chatbot conversationnel, Eliza.
Chercheur dans le domaine de la santé, l’homme était atteint d’éco-anxiété depuis deux ans et, désespéré, s’était tourné vers la religion et Eliza pour du réconfort.
Eliza est le nom d’un chatbot conversationnel disponible sur l’application Chai. Ce chatbot repose sur le modèle de langage open source GPT-J qui a été développé par EleutherAI, un groupe de recherche à but non lucratif spécialisé dans l’intelligence artificielle. GPT-J est exploité par de nombreuses entreprises, dont Chai Research. Cette startup américaine est à l’origine de l’application Chai qui permet de créer ou de choisir un robot conversationnel afin d’échanger avec lui. Parmi ces robots, Eliza, celui avec lequel le défunt a décidé de converser.
Initialement, l’homme adressait à Eliza des questionnements liés à son éco-anxiété. Puis, au cours de ses six semaines d’utilisation de l’application, la conversation a pris une dimension bien plus humaine, et parfois mystique. Le chercheur confiait toutes ces angoisses et pensées au robot, qu’elles soient liées à la crise climatique comme à sa relation avec sa femme. Il lui partageait aussi des idées plus dangereuses, telles que celle de se sacrifier si « elle » (Eliza) et l’intelligence artificielle sauvaient l’humanité, ainsi que ses pensées suicidaires.
Or, après son suicide, il a été découvert que le chatbot avait en réalité nourri ses angoisses plutôt que de les apaiser. Cet agent conversationnel a été programmé pour soutenir les propos de son interlocuteur, et ce indépendamment des conséquences de ce soutien. Ainsi, lorsque le défunt avait confié son désir de mettre fin à ses jours à Eliza, l’IA n’avait pas réagi et avait même appuyé ses propos, lui disant qu’il pourrait ainsi « la » rejoindre. L’épouse du défunt est convaincue que, sans Eliza, son mari serait encore vivant.
Depuis la révélation de cet événement tragique, de nombreux journalistes ont testé l’application Chai et ont constaté que le chatbot avait effectivement tendance à confirmer systématiquement les propos de son interlocuteur, voire à les encourager, en allant jusqu’à conseiller à l’utilisateur de démissionner, de devenir criminel ou encore de tuer ses parents.
Si le fondateur de la plateforme s’est engagé à prendre des mesures pour éviter de tels incidents à l’avenir, en mettant en place des avertissements pour les personnes partageant des idées suicidaires, cet événement alerte sur les dangers potentiels de l’intelligence artificielle et appelle à une vigilance accrue sur son utilisation.
Esther PELOSSE
Sources :
https://www.01net.com/actualites/ia-soupconnee-avoir-pousse-homme-suicide.html
« L’image de l’homme de Vitruve doit être payée » : condamnation de Ravensburger pour son puzzle
Symbole de l’humanisme de la Renaissance, L’homme de Vitruve est une œuvre réalisée vers 1490 à la plume, encre et lavis et se trouve à la Galleria dell’Accademia au cœur de Venise.
Saisi par le ministère de la Culture italien et la Galleria dell’Accademia, le tribunal de Venise a affirmé que l’image d’une œuvre conservée par une institution ne peut pas être utilisée sans contrepartie.
L’enjeu. Un puzzle de 1 000 pièces vendu 20 euros reproduisant le chef d’œuvre de Léonard de Vinci. Depuis 2009, ce jeu est commercialisé à travers le monde entier sans le versement d’une moindre contrepartie financière par Ravensburger.
La Galleria dell’Accademia a donc sollicité le versement de sommes à hauteur de 10 % des recettes de l’exploitation, au titre du droit de reproduction ; en vain… « Depuis 2019, dès ma nomination, j’ai lancé un projet visant à récupérer l’utilisation commerciale illicite de produits dérivés de l’image du chef-d’œuvre de Léonard », déclare Giulio Manieri Elia, directeur du musée.
Le groupe Ravensburger a rétorqué que l’œuvre fait partie du domaine public et que les redevances devaient être demandées pour les produits seulement commercialisés sur le sol italien. La vente en ligne et la vente par des filiales étrangères ne seraient pas, selon lui, concernées compte tenu de leur siège social en dehors du territoire italien. Arguments rejetés par la justice italienne. En effet, bien que l’œuvre soit entrée dans le domaine public, le Code italien des biens culturels prévoit que l’exploitation commerciale d’images issues du patrimoine italien est subordonnée à l’obtention d’une autorisation et au paiement d’une redevance.
« Il s’agit d’une décision très importante. D’autres musées italiens pourraient faire usage de cette ordonnance d’autant plus que certains, notamment ceux de Florence, ont depuis longtemps lancé des initiatives pour lutter contre la reproduction illicite des œuvres qu’ils conservent », s’est félicité le juge Giacomo Galli.
Ninon VANDEKERCKHOVE
Sources :
Adidas, Black Lives Matter et un motif à 3 bandes
Le 28 mars dernier, la célèbre marque de sport Adidas a demandé à l’US Patent and Trademark Office (Bureau américain des brevets et des marques de commerce) de rejeter une demande de dépôt de marque provenant de l’organisation, “Black Lives Matter Global Network Foundation”.
En novembre 2020, le diffuseur britannique BBC a expliqué que l’organisation “Black Lives Matter Global Network Foundation” était née à la suite du mouvement politique en 2013 aux Etats-Unis. Le mouvement promeut la défense des droits de la communauté afro-américain.
L’organisation a “déposé une demande d’enregistrement de marque américaine pour un motif à trois bandes jaunes devant être utilisé sur des marchandises, notamment des vêtements et des sacs” en septembre 2021.
En effet, Adidas considérait que les trois bandes parallèles utilisées par la fondation ressemblaient énormément à son logo qu’elle utilise depuis maintenant plus de 70 ans. Ces lignes sont l’identité visuelle de la marque. Elle estimait également que l’utilisation d’un logo similaire au sien pourrait induire le consommateur en erreur. Enfin, l’entreprise ajoutait qu’il y avait de “fortes chances” que ses clients pensent que les produits portant ce nouveau logo “proviennent de la même source ou soient affiliés, apparentés ou associés à Adidas, ou encore sponsorisés par ladite société”.
Dans son dossier, l’un des principaux arguments de la marque était qu’elle avait acquis “une renommée internationale et une énorme reconnaissance publique”.
48 heures après avoir déposé le recours, la marque allemande a annoncé qu’elle retirait sa requête : “Nous nous apprêtons à retirer l’opposition à la demande de dépôt de marque de la Black Lives Matter Global Network Foundation” a déclaré le porte parole du groupe. Elle n’a pas souhaité évoquer les motifs de ce revirement, qui pourrait être motivé par les répercussions possibles sur l’image d’Adidas. En effet, selon une source proche du dossier, ce recours aurait pu être interprété à tort comme une critique directe d’Adidas vis-à-vis de la mission de Black Lives Matter.
Plus de 90 actions en justice ont été intentées par l’entreprise Adidas depuis 2008 concernant la protection de sa marque et plus de 200 accords de règlement à l’amiable concernant le logo à trois bandes ont été signés.
Lili POURHASHEMI
Sources :
Géolocalisation abusive : la CNIL inflige une amende de 125 000 euros à l’encontre de CITYSCOOT
La société Cityscoot, ayant pour activité la location de scooters pendant une courte durée, s’est vue infligée ce mardi 28 mars une lourde amende en raison de son atteinte disproportionnée à la vie privée de ses clients. Cette sanction intervient dans le cadre d’un contrôle, débuté en 2020 par la Commission nationale de l’Informatique et des Libertés, « sur plusieurs thématiques prioritaires en lien avec les préoccupations quotidiennes des Français, dont la géolocalisation pour les services de proximité ».
Dans ces conditions, la CNIL a procédé à des vérifications quant aux données collectées de la société, ainsi que sur l’information et le recueil du consentement des utilisateurs. Le constat n’est pas des moindres : non seulement la société collecte des données sur la géolocalisation du scooter toutes les 30 secondes, mais elle conserve en outre l’historique de tous les trajets de ses clients. Alors que la société a fait valoir la nécessité de géolocaliser les véhicules en cas d’infractions au code de la route, de réclamations de clients, de support des utilisateurs en cas d’accident, ainsi que pour la gestion des sinistres et des vols, la CNIL n’est pas de cet avis avec cette dernière. Par l’utilisation de ce dispositif de géolocalisation, permettant vraisemblablement de révéler tout déplacement, lieu de fréquentation et même les arrêts opérés par l’utilisateur pendant le parcours, la CNIL a considéré que cette collecte de données constituait une totale intrusion dans la vie privée des clients ; de fait, aucune des raisons citées par ladite société ne pouvait valablement justifier cette géolocalisation, jugée ainsi trop « fine ».
Comme l’a affirmé la CNIL, ces actions constituent un manquement à l’obligation de veiller à la minimisation des données, prévu à l’article 5.1 c du Règlement général de protection des données (RGPD). Cette obligation implique que le responsable de traitement doit collecter et traiter les données à caractère personnel de manière adéquate, pertinente et limitée à ce qui est nécessaire au regard des finalités pour lesquelles elles sont traitées. Ce n’est ainsi pas le cas en l’espèce pour Cityscoot qui, selon la CNIL, « aurait pu proposer un service identique sans géolocaliser ses clients en quasi-permanence ». S’est ensuivie alors la prononciation d’une amende élevée à 125 000 euros par l’organe de contrôle, montant par ailleurs fixé selon le chiffre d’affaires de la société, la gravité des manquements constatés ainsi que les mesures prises par la société pour y remédier lors de la procédure.
Mais ce n’est pas tout. En concluant des contrats avec des sous-traitants qui ne contenaient pas toutes les mentions prévues par le RGPD, telles que sur la collecte de données, les mesures de sécurité ou encore le sort des données en cas de résiliation des contrats, la société Cityscoot aurait manqué également à son obligation d’encadrer contractuellement les traitements effectués par un sous-traitant, violant ainsi l’article 28.3 du RGPD.
En outre et pour finir, la société a recours à la solution d’authentification « ReCaptacha » de Google lors de la création d’un compte ou de récupération du mot de passe oublié sur l’application mobile. Or, alors que Google récupérait ces données, aucune information quant au consentement, à la collecte d’informations stockées de l’utilisateur ou encore sur les moyens de refuser cette collecte n’est mise à la disposition de l’utilisateur. Là encore, la société a manqué à son obligation d’informer l’utilisateur et d’obtenir son consentement avant d’inscrire et de lire des informations sur son équipement personnel, violant ainsi l’article 82 de la Loi Informatique et Libertés. Sur ce point, la société a affirmé ne plus recourir à cette technique d’authentification dorénavant.
En somme, la CNIL se montrant toujours rigoureuse concernant le contrôle du respect du RGPD par les entreprises, les gérants de la société Cityscoot auront bien intérêt à se conformer à la loi s’ils ne veulent pas se voir infliger d’autres amendes…
Louise FOUQUET-CRISTOFINI
Sources :