Analitzem els riscos per a la privacitat associats a l’ús de la IA conversacional
L’Àrea de Protecció de Dades del Consorci de Salut i Social de Catalunya (CSC) ha elaborat una anàlisi sobre els riscos per a la privacitat associats a l’ús de la intel·ligència artificial (IA) conversacional, a partir de l’estudi Prompt like a Butterfly, Sting like a Tracker: A Privacy Analysis of Web and Mobile Conversational AI Agents.
L'article analitza nou serveis d’IA conversacional i examina com les eines de publicitat, seguiment i analítica poden intervenir en el tractament de la informació compartida pels usuaris. Els resultats evidencien que, en determinats casos, dades com els títols de les converses, els enllaços o els missatges poden arribar a tercers, fet que posa de manifest que la privacitat va més enllà del contingut que s’introdueix directament a la plataforma.
L’anàlisi també destaca les implicacions d’aquests riscos per al sector sanitari, on l’ús de la IA pot comportar el tractament de dades de salut i altra informació confidencial. En aquest context, el text apunta que és fonamental avaluar les eines de manera integral, conèixer quins actors poden accedir a les dades i establir garanties tècniques i contractuals adequades.
L’Àrea de Protecció de Dades del CSC subratlla així la importància d’incorporar la privacitat a la governança de la IA i de verificar els fluxos d’informació que es produeixen durant les interaccions. Podeu consultar l’anàlisi completa en aquest enllaç.
