00:00:30:18 - 00:00:33:11 Jean-Fabrice Lebraty L'enregistrement a débuté. 00:00:33:13 - 00:00:52:03 Christophe Fournier Bonjour à tous. Il est 8 h 30 et la tradition pour ces petits-déjeuners AUNEGe de commencer à 8 h 30 pile et de finir à 9h. Donc nous n'allons pas déroger à la tradition. Je suis ravi, pour ce petit-déjeuner, d'accueillir mon collègue et ami, le professeur Jean-Fabrice Lebraty, professeur des universités à l’IAE de Lyon. 00:00:52:05 - 00:01:16:13 Christophe Fournier Il va nous parler d'un sujet extrêmement important qui a fait l'objet de multiples questions lors des petits-déjeuners précédents qui concernent tous les problèmes liés à comment sont utilisées nos données et quels sont les différents problèmes qui peuvent apparaître. Et donc le thème d'aujourd'hui, c'est l'IA générative et la protection des données. Jean-Fabrice, merci d'être là et tu as la parole. 00:01:16:15 - 00:01:45:16 Jean-Fabrice Lebraty Merci beaucoup Christophe. Très content de participer à cette initiative originale d’AUNEGe et bien cadencée dans le temps. C'est une très bonne innovation. Sur le thème de l'IA et de la e-privacy...Alors tout d'abord, je vais dire je ne suis pas inquiet ! Comme ça, on connaît la tonalité d'entrée ! Je suis plus inquiet de la non utilisation... 00:01:45:18 - 00:01:48:01 Jean-Fabrice Lebraty Ou de la... 00:01:48:01 - 00:01:53:16 Jean-Fabrice Lebraty Non acceptation ou non adoption de l'IA plus que de problèmes de 00:01:53:16 - 00:01:54:13 Jean-Fabrice Lebraty données. 00:01:54:15 - 00:02:12:01 Jean-Fabrice Lebraty L'IA permet d'aller vite, donc si on va vite, même si quelqu'un récupère des données, il sera toujours derrière. Donc pour moi, le vrai challenge, ce sera d'accaparer, de s'approprier cette technologie, de réussir à l'intégrer dans les systèmes d'information existants. 00:02:12:03 - 00:02:13:13 Jean-Fabrice Lebraty Et tout... 00:02:13:13 - 00:02:19:00 Jean-Fabrice Lebraty En ayant une conscience de la protection. 00:02:19:02 - 00:02:21:06 Jean-Fabrice Lebraty Mais il ne faut pas tout... 00:02:21:06 - 00:02:31:09 Jean-Fabrice Lebraty ...Masquer, tout cacher, tout arrêter derrière cette question de la protection. Ca c'est pour la tonalité globale. Tonalité globale, pourquoi ? Parce qu'il faut être humble face à cette... 00:02:31:11 - 00:02:34:05 Jean-Fabrice Lebraty ...technique. 00:02:34:07 - 00:03:01:05 Jean-Fabrice Lebraty À cette technologie. Moi, c'est une technologie que j'ai eu la chance depuis longtemps, ma première conférence en tant que jeune maître de conférences sur les réseaux de neurones en 1995. Donc, j'ai suivi ça et jamais je n'aurais imaginé, depuis 2021-2022, une telle explosion, une telle arrivée de ces différentes formes d'IA. Là aussi, il faut comprendre les causes. 00:03:01:05 - 00:03:21:18 Jean-Fabrice Lebraty Pourquoi c'est arrivé d'un coup comme ça ? Il y a un modèle, des maturités multiples et plusieurs éléments qui se sont mis en alignement. D'énormes volumes de données. Donc pour que l’IA ait pu fonctionner, il a fallu d'énormes volumes de données et on y reviendra. D'énormes volumes de données, c'est lié à la protection de ces données. Beaucoup de puissance... 00:03:21:18 - 00:03:31:22 Jean-Fabrice Lebraty ...Deuxième point, beaucoup de puissance de calcul permise grâce au développement des technologies Cloud, que ce soit WS, Azure ou citons OVH... 00:03:31:22 - 00:03:34:17 Jean-Fabrice Lebraty ...Pour parler Français. 00:03:34:17 - 00:03:37:09 Jean-Fabrice Lebraty Et d’enormes investissements. 00:03:37:11 - 00:03:38:00 Jean-Fabrice Lebraty Donc. 00:03:38:00 - 00:03:53:05 Jean-Fabrice Lebraty De la donnée, de la puissance de calcul, de l'argent. Un alignement entre ces trois éléments. Et à un moment, voilà : arrivée 2021-2022 de cette IA. Pour que l'IA puisse apprendre... 00:03:53:07 - 00:03:54:16 Jean-Fabrice Lebraty Il lui faut... 00:03:54:18 - 00:04:08:20 Jean-Fabrice Lebraty De la donnée, il lui faut des data sets, il lui faut des éléments d'apprentissage. Puisque en effet, il faut, il faut la nourrir d'éléments avec de l'entrée et de la sortie. Donc pour qu'elle puisse fonctionner, elle a besoin... 00:04:08:22 - 00:04:11:07 Jean-Fabrice Lebraty De données. 00:04:11:09 - 00:04:11:20 Jean-Fabrice Lebraty Mais ces. 00:04:11:20 - 00:04:12:15 Jean-Fabrice Lebraty données... 00:04:12:17 - 00:04:38:08 Jean-Fabrice Lebraty ...Qui vont servir à apprendre, ensuite, une fois que ces data set ont servi, ils ne servent plus. Ces data, ces données en clair ne servent plus. Et ces données, se sont quelque part, transformées en une pondération dans les différentes couches de neurones qu'il y a dans les modèles. 00:04:38:10 - 00:04:48:04 Jean-Fabrice Lebraty Et ça c'est extrêmement intéressant parce qu'il y a une sorte de transformation de données en clair. 00:04:48:06 - 00:04:50:21 Jean-Fabrice Lebraty Avec par exemple. 00:04:50:23 - 00:04:51:19 Jean-Fabrice Lebraty [...] 00:04:51:21 - 00:05:00:10 Jean-Fabrice Lebraty ...Les caractéristiques du cours, d'une action. Et en sortie, le cours a monté ou le cours est descendu. 00:05:00:12 - 00:05:01:05 Jean-Fabrice Lebraty Des données... 00:05:01:05 - 00:05:09:00 Jean-Fabrice Lebraty ...En clair, qui se sont transformées en une pondération de différents... 00:05:09:00 - 00:05:11:02 Jean-Fabrice Lebraty ...Neurones. 00:05:11:04 - 00:05:21:04 Jean-Fabrice Lebraty Ce qui veut dire qu'on peut voir quelque part un modèle d'IA comme un nouveau type de base de données. Pas un truc structuré et relationnel ou... 00:05:21:04 - 00:05:23:10 Jean-Fabrice Lebraty ...non... 00:05:23:10 - 00:05:24:14 Jean-Fabrice Lebraty ...Ou semi structuré... 00:05:24:16 - 00:05:24:22 Jean-Fabrice Lebraty ...Type... 00:05:24:22 - 00:05:25:18 Jean-Fabrice Lebraty NoSQL. 00:05:25:20 - 00:05:27:06 Jean-Fabrice Lebraty Mais a un... 00:05:27:06 - 00:05:36:06 Jean-Fabrice Lebraty ...Moyen de stocker de la donnée. A part que cette donnée là n'est pas stockée en clair. Elle est stockée, sous la forme,pas de règle tacite... 00:05:36:06 - 00:05:37:08 Jean-Fabrice Lebraty ...Mais... 00:05:37:08 - 00:06:06:16 Jean-Fabrice Lebraty ...Sous la forme de pondération de neurone pondération. Je rappelle les modèles actuels de LLM : on est à plusieurs milliards, jusqu'à centaines de milliards, rien que sur la couche d'entrée. Donc les données qui ont servi à l'apprentissage et à l'apprentissage, soit initial pré training, soit l'apprentissage en continu lors du travail, se retrouvent stockées dans... 00:06:06:18 - 00:06:08:01 Jean-Fabrice Lebraty ...Dedans... 00:06:08:03 - 00:06:09:13 Jean-Fabrice Lebraty Dans ce modèle. 00:06:09:15 - 00:06:10:15 Jean-Fabrice Lebraty Qui... 00:06:10:17 - 00:06:17:22 Jean-Fabrice Lebraty Par définition, ce n'est pas une règle de ce type “Si.. Alors” à l'intérieur. On ne sait pas pourquoi quand on rentre quelque chose, il sort quelque chose. Si c'est entraînement qui a permis de faire... 00:06:17:22 - 00:06:19:00 Jean-Fabrice Lebraty [...] 00:06:19:00 - 00:06:42:06 Jean-Fabrice Lebraty ...Ces liens. Donc une IA, c'est un lieu de stockage de données, mais pas en clair. Jean-Fabrice n’est plus marqué à l'intérieur. C'est ici transformé en une pondération de pleins de chiffres entre zéro et un pour schématiser. 00:06:42:08 - 00:06:59:22 Jean-Fabrice Lebraty Ce qui veut dire que le modèle en lui même, sans ses data set d’apprentissage, oui il contient de la donnée. Non, elle n'est pas accessible et extractible directement, comme ça pourrait être dans une base de e- commerce. 00:06:59:24 - 00:07:00:17 Jean-Fabrice Lebraty [...] 00:07:00:19 - 00:07:01:17 Jean-Fabrice Lebraty Ou quand on voit que voilà... 00:07:01:18 - 00:07:03:21 Jean-Fabrice Lebraty ...Des milliers de... 00:07:03:21 - 00:07:05:17 Jean-Fabrice Lebraty Logging et de mots de passe et... 00:07:05:19 - 00:07:05:24 Jean-Fabrice Lebraty [...] 00:07:05:24 - 00:07:17:18 Jean-Fabrice Lebraty ...d'adresse mail ont été extraits. C'est pas la même chose. Donc le risque déjà n'est pas de même nature que les risques classiques. 00:07:17:20 - 00:07:18:18 Jean-Fabrice Lebraty Du point de vue. 00:07:18:18 - 00:07:19:16 Jean-Fabrice Lebraty De cette protection. 00:07:19:18 - 00:07:21:16 Jean-Fabrice Lebraty Des données. 00:07:21:18 - 00:07:33:13 Jean-Fabrice Lebraty Alors comme vous voyez, pourtant, je peux le dire, j'aime ces technologies, je vis dedans depuis depuis des dizaines d'années et malgré tout... 00:07:33:15 - 00:07:36:21 Jean-Fabrice Lebraty [...] 00:07:36:23 - 00:07:58:06 Jean-Fabrice Lebraty ...Face à ces volumes et à ce niveau de technicité, je redis le terme, je reste extrêmement humble. Donc où est ce qu'on peut trouver des sources pour apprendre et mieux comprendre et mieux mesurer les enjeux et avoir des exemples concrets ? J'en donnerai deux. Je vais vite partager mon... 00:07:58:08 - 00:07:59:17 Jean-Fabrice Lebraty [...] 00:07:59:19 - 00:08:05:22 Jean-Fabrice Lebraty ...Mon écran. 00:08:05:24 - 00:08:07:04 Jean-Fabrice Lebraty Première source. 00:08:07:04 - 00:08:09:23 Jean-Fabrice Lebraty [...] 00:08:10:00 - 00:08:12:19 Jean-Fabrice Lebraty Sur...Hugging Face 00:08:12:21 - 00:08:19:15 Christophe Fournier Est-ce que tu peux zoomer un petit coup ? Je sais pas si c'estt possible ? 00:08:19:17 - 00:08:30:07 Jean-Fabrice Lebraty Je zoome un peu sur le site Huggin Face. Très belle entreprise franco-américaines, américaine-française mais on va dire franco-américaine, c'est mieux. 00:08:30:09 - 00:08:30:11 Jean-Fabrice Lebraty [...] 00:08:30:12 - 00:08:35:17 Jean-Fabrice Lebraty Très très belle entreprise. Vous avez beaucoup de data set, vous avez... 00:08:35:19 - 00:08:37:20 Jean-Fabrice Lebraty [...] 00:08:37:22 - 00:08:56:23 Jean-Fabrice Lebraty Beaucoup d'éléments qui expliquent les évolutions des technologies. Vous avez des classements des différents modes, des différents modèles. C'est une mine vraiment d'apprentissage et beaucoup de modèles sont stockés. On peut les retrouver. C'est vraiment une agora. 00:08:57:00 - 00:08:59:02 Jean-Fabrice Lebraty De... 00:08:59:02 - 00:09:09:10 Jean-Fabrice Lebraty ...l'IA. Donc premier endroit où est ce qu'on veut vraiment se confronter à l'IA c'est, je dirais, Hugging Face, même si le coût d'entrée est quand même... 00:09:09:12 - 00:09:10:14 Jean-Fabrice Lebraty [...] 00:09:10:14 - 00:09:12:00 Jean-Fabrice Lebraty ...Un peu élevé parce qu'il faut arriver à bien. 00:09:12:00 - 00:09:13:21 Jean-Fabrice Lebraty Comprendre. 00:09:13:23 - 00:09:53:02 Jean-Fabrice Lebraty Pour vulgariser, là je vais prendre un jeune talentueux Micode qui a une chaîne aussi bien sur YouTube que sur sur Twitch et aussi en podcast. Et donc son son émission Underscore_ : vous avez des exemples extrêmement importants. Je vais en citer un qui va permettre de comprendre comment certains peuvent essayer d’exfiltrer un peu de la donnée. Dans un modèle d'IA... 00:09:53:02 - 00:09:58:03 Jean-Fabrice Lebraty ...Une fois que le modèle d'IA a appris, ces modèles d'IA sont tolérants... 00:09:58:03 - 00:09:59:07 Jean-Fabrice Lebraty [...] 00:09:59:09 - 00:10:01:05 Jean-Fabrice Lebraty Sont tolérants, dans l'utilisation, 00:10:01:09 - 00:10:04:18 Jean-Fabrice Lebraty au manque de données ou. 00:10:04:20 - 00:10:09:15 Jean-Fabrice Lebraty aux absences ou aux petites erreurs. Et ils sont relativement tolérants à 00:10:11:09 - 00:10:13:10 Jean-Fabrice Lebraty ça. Et donc... 00:10:13:10 - 00:10:20:20 Jean-Fabrice Lebraty ...quand le modèle a appris dans un dans un thème, ce n'est pas l'exemple cité je ne vais pas prendre l'exemple cité, je... 00:10:20:20 - 00:10:22:08 Jean-Fabrice Lebraty ...en prendre un autre. Mais là... 00:10:22:08 - 00:10:46:22 Jean-Fabrice Lebraty ...On va rester sur quelque chose en management. En finances par exemple, quand un modèle a appris des comportements de marchés financiers, par exemple, eh bien on peut très bien, pour voir ce qu'il a appris, par exemple le lier à une action d'une entreprise en particulier. On n'est pas obligé de citer le nom de cette entreprise pour voir ce que ça donnerait. 00:10:46:22 - 00:10:48:04 Jean-Fabrice Lebraty On peut très bien... 00:10:48:06 - 00:10:49:01 Jean-Fabrice Lebraty ...Donner. 00:10:49:03 - 00:11:02:18 Jean-Fabrice Lebraty Tous les éléments de contexte liés à cette entreprise, mais changer le nom de l'entreprise et il donnera, lui, comme il est tolérant à ces erreurs, il donnera une sortie liée à cette entreprise. Parce qu'on peut, au lieu de dire... 00:11:02:20 - 00:11:06:02 Jean-Fabrice Lebraty On va prendre, je ne sais pas moi, par exemple... 00:11:06:04 - 00:11:16:19 Jean-Fabrice Lebraty Air Liquide, première entreprise française. Eh bien je peux très bien dire : “un grand producteur de gaz industriel dans... 00:11:16:21 - 00:11:17:15 Jean-Fabrice Lebraty Le top 00:11:17:15 - 00:11:26:15 Jean-Fabrice Lebraty trois mondial...et qui s'appelle et je mets xxx...Lui, xxx, il sera tolérant et se dira.. 00:11:26:17 - 00:11:27:07 Jean-Fabrice Lebraty [...] 00:11:27:09 - 00:11:30:22 Jean-Fabrice Lebraty ...Là on parle d'Air liquide. Donc on peut arriver... 00:11:30:24 - 00:11:31:11 Jean-Fabrice Lebraty [...] 00:11:31:11 - 00:11:38:01 Jean-Fabrice Lebraty ...Quand on connaît le contexte d’une IA, sans nécessairement sortir les termes exacts. 00:11:38:03 - 00:11:38:07 Jean-Fabrice Lebraty [...] 00:11:38:07 - 00:11:39:11 Jean-Fabrice Lebraty A avoir des... 00:11:39:11 - 00:11:41:10 Jean-Fabrice Lebraty [...] 00:11:41:10 - 00:12:13:03 Jean-Fabrice Lebraty ...Sorties liées à ce terme, puisque lui, quelque part, ce terme, comme il est stocké à l'intérieur, il va reprendre les éléments du contexte et il va exfiltrer. Donc ça, c'est vrai que ça peut être un moyen d’exfiltrer la donnée. Et dans une des émissions d’Underscore_, il y a un jeune qui est payé justement pour essayer de tester, de challenger les l'IA pour voir ce qu'elles arrivent à sortir et leur faire faire des comportements non prévus... 00:12:13:03 - 00:12:35:01 Jean-Fabrice Lebraty ...Voire interdits par les règles générales des concepteurs qui veulent, qui veulent éviter certaines dérives. Donc il y a des gens qui sont payés pour tester les IA de cette manière là pour essayer de les pousser dans leurs retranchements. Et donc ça peut s'appliquer... Autre source de.. 00:12:35:03 - 00:13:07:04 Christophe Fournier Une question telle que je l'entends ou je la transforme. Imaginons, j'ai inventé la nouvelle molécule qui va soigner telle maladie et il y a un business derrière, etc. Donc je fais un document pour la présenter au prochain congrès. Pour relire mon article, je le mets dans chatGPT en disant : corrige-moi, mets-moi tout ça bien, etc. Est-ce qu’il y a un risque que cette formule magique nouvelle soit réutilisée rapidement par quelqu'un d'autre ? 00:13:07:06 - 00:13:08:20 Jean-Fabrice Lebraty La formule... 00:13:08:22 - 00:13:09:16 Jean-Fabrice Lebraty [...] 00:13:09:18 - 00:13:15:00 Jean-Fabrice Lebraty Elle ne va pas sortir, on ne pourra pas l'extraire comme ça. Par contre... 00:13:15:00 - 00:13:16:01 Jean-Fabrice Lebraty [...] 00:13:16:01 - 00:13:21:04 Jean-Fabrice Lebraty S'il l’a bien appris par des questions posées, on pourra la faire sortir. 00:13:21:04 - 00:13:23:09 Jean-Fabrice Lebraty Oui. 00:13:23:09 - 00:13:29:13 Jean-Fabrice Lebraty En mettant une formule approchante et en lui demandant éventuellement comment je pourrais améliorer cette formule. 00:13:31:00 - 00:13:35:17 Christophe Fournier Ok, parce que ça c'est une question qui revient très souvent. 00:13:35:19 - 00:13:41:01 Jean-Fabrice Lebraty Alors je reste quand même dans le domaine du management 00:13:41:07 - 00:13:41:18 Jean-Fabrice Lebraty où on a 00:13:41:24 - 00:13:44:17 Jean-Fabrice Lebraty peu de formules magiques. 00:13:44:19 - 00:13:45:00 Jean-Fabrice Lebraty Sauf 00:13:45:02 - 00:13:46:09 Jean-Fabrice Lebraty peut être en finance. 00:13:46:11 - 00:13:48:12 Jean-Fabrice Lebraty On peut avoir 00:13:48:21 - 00:13:50:20 Jean-Fabrice Lebraty ça. 00:13:50:22 - 00:13:51:03 Jean-Fabrice Lebraty Mais 00:13:51:03 - 00:14:03:01 Jean-Fabrice Lebraty voilà, il la sortira pas comme ça. Par contre, s'il l'a apprise, on pourra lui demander de poser des questions pour 00:14:03:03 - 00:14:03:12 Jean-Fabrice Lebraty le faire 00:14:03:12 - 00:14:04:23 Jean-Fabrice Lebraty converger vers cette sortie, vers réponse. 00:14:04:23 - 00:14:27:22 Christophe Fournier À une autre question. Exactement, mais plus dans le management. Je vais avoir des mémoires. Peut être que certains collègues vont dire GPT fais-moi un résumé de deux pages du mémoire de M2. Ce mémoire est assez confidentiel. Est-ce qu’il y a un risque que les données confidentielles qui sont dans ce mémoire soient réutilisées et réutilisables dans le système ? 00:14:27:22 - 00:14:37:09 Jean-Fabrice Lebraty Alors, là encore, si le contexte est connu, certaines données pourront être exfiltrées, mais déjà celui qui les sortira ne sera jamais sûr parce que... 00:14:37:11 - 00:14:38:16 Jean-Fabrice Lebraty ...à la fin... 00:14:38:16 - 00:14:43:07 Jean-Fabrice Lebraty ...Ça reste des zéros et des uns : des milliards de zéro et de uns. Voilà donc... 00:14:43:07 - 00:14:43:21 Jean-Fabrice Lebraty [...] 00:14:43:23 - 00:14:59:02 Jean-Fabrice Lebraty Et en sortie : c'est des 0,9 avec beaucoup beaucoup beaucoup de chiffres. Donc il ne pourra jamais être sûr de l'exactitude de la donnée sortie et que ça ne soit pas mélangé avec des milliers d'autres, qu’il y ait une fusion. 00:14:59:04 - 00:15:01:09 Christophe Fournier OK 00:15:01:11 - 00:15:13:21 Jean-Fabrice Lebraty Là, il y a un site privacy.commonsense.org où on peut rentrer les noms des modèles. Et il y a une évaluation. Alors, ce qui est intéressant, ce n'est pas tellement de regarder... 00:15:13:21 - 00:15:14:23 Jean-Fabrice Lebraty [...] 00:15:14:23 - 00:15:22:12 Jean-Fabrice Lebraty ...le contenu. Mais c'est de regarder aussi les critères qui sont liés à l'évaluation : le rating. 00:15:22:14 - 00:15:24:03 Jean-Fabrice Lebraty La première chose... 00:15:24:05 - 00:15:25:09 Jean-Fabrice Lebraty ...C'est : est ce que 00:15:25:11 - 00:15:51:24 Jean-Fabrice Lebraty les données personnelles des gens qui utilisent ces IA, sont vendues ou données à d’autres parties ? Parce que, bien évidemment, un étudiant de M2, c'est peut-être pas tout à fait la même chose qu'un chercheur au CEA. Un étudiant de M2 à l’IAE, même s’ils sont excellents, nos étudiants sont excellents, ce n’est pas forcément le même degré de criticité 00:15:51:24 - 00:15:53:17 Jean-Fabrice Lebraty qu'un 00:15:53:19 - 00:16:01:10 Jean-Fabrice Lebraty Senior researcher au CEA. Donc ça, cette donnée là est extrêmement importante et il faut s'assurer 00:16:01:14 - 00:16:03:19 Jean-Fabrice Lebraty que... 00:16:03:21 - 00:16:18:05 Jean-Fabrice Lebraty ...le modèle ne vend pas. Et là, c'est là où il y a une grande, et je reprends ce que disait mon autre grand collègue et ami Marc Bidan, il y a une grosse différence entre les modèles gratuits et.. 00:16:18:07 - 00:16:18:09 Jean-Fabrice Lebraty Enfin... 00:16:18:12 - 00:16:29:04 Jean-Fabrice Lebraty ...Certains modèles gratuits et certains modèles payants. À partir du moment où on paye, on devient client et là il y a un contrat et c'est pas le même type de contrat que quand on l'utilise de manière gratuite. 00:16:29:06 - 00:16:32:08 Christophe Fournier D’accord 00:16:32:08 - 00:16:52:05 Jean-Fabrice Lebraty Donc en général, il vaut mieux quand même quand c'est une IA que l'on veut utiliser en ligne, parce q’on verra qu’il y a de IA qu'on peut utiliser en local, quand ily a des IA qu'on peut utiliser en ligne et qu'il y a un intérêt business dessus, un intérêt de travail, il ne faut pas hésiter à payer 20-25 $ par mois. 00:16:52:07 - 00:17:04:07 Jean-Fabrice Lebraty D'accord, ça protègera pas tout, mais déjà on est dans un cadre contractuel avec des clauses et s'il y a une sensibilité, là, les clauses, on les lit avec attention. 00:17:04:09 - 00:17:04:19 Jean-Fabrice Lebraty [...] 00:17:04:21 - 00:17:06:22 Jean-Fabrice Lebraty Je clique sur : Suivant, suivant suivant. 00:17:06:24 - 00:17:12:07 Jean-Fabrice Lebraty [...] 00:17:12:08 - 00:17:22:01 Jean-Fabrice Lebraty Voilà ce qu'est ce qui est intéressant. C'est pour ça que vous encourage à regarder les critères qu'il peut y avoir et puis la façon d'évaluer la privacy. Mais en aucun cas... 00:17:22:01 - 00:17:23:01 Jean-Fabrice Lebraty [...] 00:17:23:01 - 00:17:27:16 Jean-Fabrice Lebraty ...les données sont vendues, sont données directement. C'est jamais... 00:17:27:20 - 00:17:30:02 Jean-Fabrice Lebraty [...] 00:17:30:05 - 00:17:31:18 Jean-Fabrice Lebraty Aussi aussi simple 00:17:31:20 - 00:17:33:06 Jean-Fabrice Lebraty que ça. Je vais arrêter 00:17:33:06 - 00:17:37:13 Jean-Fabrice Lebraty le partage. 00:17:37:15 - 00:17:39:13 Jean-Fabrice Lebraty Up. 00:17:39:15 - 00:17:49:19 Jean-Fabrice Lebraty Donc je continue. Sur ces modèles, il y a deux deux grandes façons 00:17:49:21 - 00:17:50:02 Jean-Fabrice Lebraty de les 00:17:50:02 - 00:18:02:17 Jean-Fabrice Lebraty utiliser. Soit ils sont hébergés chez le concepteur, soit un prestataire et ils les utilisent sur la machine d'un autre. 00:18:04:15 - 00:18:07:02 Jean-Fabrice Lebraty Et là en effet, ce que 00:18:07:02 - 00:18:19:01 Jean-Fabrice Lebraty j'envoie, en clair y compris, peut-être susceptible, selon les clauses, d'être donné, revendu ou récupéré si c'est mal stocké. 00:18:19:03 - 00:18:22:15 Jean-Fabrice Lebraty [...] 00:18:24:03 - 00:18:33:03 Jean-Fabrice Lebraty Les datas set sont intéressants. Les exemples qui sont envoyés sont intéressants et si le prestataire les garde en clair... 00:18:33:05 - 00:18:34:15 Jean-Fabrice Lebraty Et que... 00:18:34:17 - 00:18:40:21 Jean-Fabrice Lebraty Ce prestataire se fait hacker : on récupère ces data set. Oui, là il y a un risque. 00:18:40:23 - 00:18:42:09 Jean-Fabrice Lebraty Mais la deuxième 00:18:42:09 - 00:19:02:08 Jean-Fabrice Lebraty façon c'est de garder le modèle en local. Et ça, là, c'est très compliqué quand on garde le modèle en local. C'est un peu comme un cœur battant, il lui faut de l'oxygène pour battre. Donc si on le garde isolé dans son coin, le modèle risque de risque de s'appauvrir. 00:19:02:10 - 00:19:06:13 Jean-Fabrice Lebraty La grande force de ces IA, et c'est pour ça que les Open AI et tout 00:19:06:15 - 00:19:08:08 Jean-Fabrice Lebraty Poussent les 00:19:08:10 - 00:19:10:20 Jean-Fabrice Lebraty MidJJourney au début, poussent des millions de gens à 00:19:10:20 - 00:19:11:21 Jean-Fabrice Lebraty [...] 00:19:11:21 - 00:19:32:12 Jean-Fabrice Lebraty l’tiliser parce qu'ils ont besoin de cet oxygène. Ils ont besoin de ces données pour apprendre sans cesse, se pondérer. Donc si on récupère un modèle pré entraîné donc qui est déjà qui a déjà été un peu pré entraîné, mais qu’ensuite on le garde en local et qu'on ne fait que l'utiliser, il ne pourra pas s’enrichir. Il va dépérir. 00:19:32:14 - 00:19:35:16 Jean-Fabrice Lebraty [...] 00:19:35:18 - 00:19:36:21 Jean-Fabrice Lebraty [...] 00:19:37:01 - 00:19:46:22 Jean-Fabrice Lebraty Il va dépérir. Il va nous donner une fausse illusion parce qu'en fait il n’aura appris qu'avec nos données donc on fera une sorte de, comme on fait des cognitifs, une sorte de biais de renforcement. 00:19:46:24 - 00:19:48:22 Jean-Fabrice Lebraty Donc... 00:19:48:24 - 00:19:51:08 Jean-Fabrice Lebraty ...C'est toujours un “trade off” entre heu... 00:19:51:10 - 00:19:52:09 Jean-Fabrice Lebraty [...] 00:19:52:11 - 00:19:54:08 Jean-Fabrice Lebraty ...ce qu'on veut mettre, pas mettre. 00:19:54:10 - 00:19:57:12 Jean-Fabrice Lebraty Voilà. 00:19:57:14 - 00:20:03:22 Jean-Fabrice Lebraty C'est pour ça qu'il n'y a pas de solution. Et on en revient à notre domaine de l'enseignement supérieur. 00:20:05:12 - 00:20:09:02 Jean-Fabrice Lebraty Il y a trois... 00:20:09:04 - 00:20:18:16 Jean-Fabrice Lebraty ...dont une se divise en deux, catégories : les “enseignants enseignants-chercheurs”, enfin, la partie enseignement, la partie recherche et les “étudiants” et la partie “administratif”. 00:20:18:18 - 00:20:20:18 Jean-Fabrice Lebraty Administrative. 00:20:20:20 - 00:20:24:13 Jean-Fabrice Lebraty Là, on a quatre problématiques différentes. 00:20:24:15 - 00:20:24:24 Jean-Fabrice Lebraty Quatre 00:20:24:24 - 00:20:38:20 Jean-Fabrice Lebraty problématiques de protection des données qui sont différentes. On va commencer par la partie purement enseignement. La partie purement 00:20:38:22 - 00:20:42:14 Jean-Fabrice Lebraty enseignement. 00:20:42:16 - 00:21:03:16 Jean-Fabrice Lebraty Ces données sont faites pour, dans l'immense majorité des cas, pour être diffusées. Donc si elles peuvent s'enrichir, qu'elles peuvent s'affiner sur une IA, le risque en terme de protection des données, de mon point de vue, est inexistant. Sur sur des cours donnés libres en amphi ou en 00:21:03:16 - 00:21:05:20 Jean-Fabrice Lebraty TD ou à 00:21:05:22 - 00:21:16:12 Jean-Fabrice Lebraty une vingtaine d'étudiants de Master 2, ça part. Donc c'est justement là, si on peut enrichir, si on peut enrichir des éléments à partir d'une IA générative... 00:21:16:13 - 00:21:17:18 Jean-Fabrice Lebraty [...] 00:21:17:20 - 00:21:20:03 Jean-Fabrice Lebraty [...] 00:21:20:05 - 00:21:20:13 Jean-Fabrice Lebraty Ben là 00:21:20:13 - 00:21:23:15 Jean-Fabrice Lebraty Dans cette partie enseignement, diffusion du savoir. 00:21:23:17 - 00:21:25:00 Jean-Fabrice Lebraty Cette partie, il 00:21:25:02 - 00:21:33:01 Jean-Fabrice Lebraty n'y a pas de risque. La partie recherche, là, bien évidemment, ça peut être différent. 00:21:33:03 - 00:21:34:04 Jean-Fabrice Lebraty Tout dépend. 00:21:35:17 - 00:21:37:22 Jean-Fabrice Lebraty Le but de tout chercheur 00:21:37:24 - 00:21:39:00 Jean-Fabrice Lebraty c'est 00:21:40:00 - 00:21:40:21 Jean-Fabrice Lebraty c'est la publication de 00:21:40:21 - 00:21:41:24 Jean-Fabrice Lebraty ses dossiers, 00:21:41:24 - 00:22:02:12 Jean-Fabrice Lebraty de ses connaissances, de ses articles. Donc là vont s'appliquer exactement les mêmes règles que quand on publie un article. Donc en effet, quand on a fait des méthodes qualitatives et qu'on a fait des entretiens avec les noms des personnes, mettre le nom de ces personnes pour les faire traiter par une IA... 00:22:02:14 - 00:22:03:00 Jean-Fabrice Lebraty c'est 00:22:03:00 - 00:22:10:03 Jean-Fabrice Lebraty ça peut être aussi dommageable que de publier les noms des personnes si elles n'ont pas été d'accord auparavant, si elles n'ont pas donné 00:22:10:03 - 00:22:11:00 Jean-Fabrice Lebraty leur accord 00:22:11:03 - 00:22:18:21 Jean-Fabrice Lebraty dans les annexes de l'article. Donc là, ça applique exactement les mêmes règles. Donc, il n'y a pas de nouveauté à ce niveau là. C'est exactement les mêmes 00:22:18:21 - 00:22:19:06 Jean-Fabrice Lebraty règles 00:22:19:10 - 00:22:43:07 Jean-Fabrice Lebraty que quand on publie son article en demandant, en s'assurant de la protection des données des personnes interrogées. Donc c'est pas une nouvelle problématique. Ce sont les mêmes mesures. Maintenant du côté des étudiants qui apprennent...Du côté des étudiants... 00:22:43:09 - 00:22:44:08 Jean-Fabrice Lebraty ...Là 00:22:44:08 - 00:22:47:19 Jean-Fabrice Lebraty aussi, ce qui est important pour eux 00:22:47:21 - 00:22:49:10 Jean-Fabrice Lebraty c'est... 00:22:49:12 - 00:22:51:17 Jean-Fabrice Lebraty ...pas tellement la protection 00:22:51:19 - 00:22:52:15 Jean-Fabrice Lebraty des données. 00:22:52:17 - 00:22:53:23 Jean-Fabrice Lebraty C'est plutôt. 00:22:54:00 - 00:22:56:08 Jean-Fabrice Lebraty [...] 00:22:56:10 - 00:22:59:23 Jean-Fabrice Lebraty Est ce qu'ils vont avoir le regard assez critique pour pour se dire... 00:22:59:23 - 00:23:00:13 Jean-Fabrice Lebraty ...Tiens... 00:23:00:15 - 00:23:19:20 Jean-Fabrice Lebraty ...Il me donne ça comme résultat, C'est intéressant, Je vais creuser un peu plus. Donc il faut qu'ils challengent les résultats de l'IA, il faut qu'ils aient une curiosité, pas juste je clique, je balance, Il faut faire un résumé et sortir les quatre grandes idées de ce texte. Je les envoie, j'ai le 4.0 copier-coller et je vais faire autre chose. 00:23:19:22 - 00:23:27:13 Jean-Fabrice Lebraty Donc là, le risque en terme de protection est relativement faible. Le principal risque c'est qu'ils ne l'utilisent pas. 00:23:27:15 - 00:23:28:03 Jean-Fabrice Lebraty [...] 00:23:28:03 - 00:23:30:08 Jean-Fabrice Lebraty Ou alors qui qu'ils utilisent en 00:23:30:09 - 00:23:34:07 Jean-Fabrice Lebraty “One shot”. 00:23:34:09 - 00:23:48:17 Jean-Fabrice Lebraty Maintenant du côté de l'administration. Là, on retrouve la question notamment de la protection des données personnelles, qu'elles soient aussi bien celles des enseignants, qu'elles soient les leurs ou qu'elles soient celles des étudiants. 00:23:48:19 - 00:23:51:23 Jean-Fabrice Lebraty Et autant 00:23:52:00 - 00:24:00:22 Jean-Fabrice Lebraty l'IA peut être utilisée pour, par exemple, répondre à des mails d'étudiants en septembre qui demanderaient 00:24:00:24 - 00:24:04:08 Jean-Fabrice Lebraty à s'inscrire, là c'est pour 00:24:04:12 - 00:24:06:15 Jean-Fabrice Lebraty faire des pré réponses en fonction 00:24:06:15 - 00:24:07:06 Jean-Fabrice Lebraty des 00:24:07:06 - 00:24:09:04 Jean-Fabrice Lebraty termes. 00:24:09:06 - 00:24:10:23 Jean-Fabrice Lebraty Maintenant... 00:24:11:00 - 00:24:31:09 Jean-Fabrice Lebraty Là encore, il faut s'assurer d'enlever les données nominatives de ces personnes. Et maintenant sur le contenu, je voudrais m'inscrire en Master 2 Contrôle de gestion. Alors pour faire ça, il faut aller voir la scolarité qui est ouverte de 8 h. 00:24:31:11 - 00:24:32:03 Jean-Fabrice Lebraty à 00:24:32:05 - 00:24:32:22 Jean-Fabrice Lebraty 11 h 30. 00:24:32:24 - 00:24:34:16 Jean-Fabrice Lebraty Pourquoi pas ?a. 00:24:34:18 - 00:24:46:18 Jean-Fabrice Lebraty C'est pas gênant. Mais on retrouve la même chose que ce qu'il y avait avec des mails classiques, à part que les possibilités d'automatisatio étant démultipliées... 00:24:46:20 - 00:24:51:08 Jean-Fabrice Lebraty Forcément... 00:24:51:10 - 00:24:53:12 Jean-Fabrice Lebraty Il y a le risque de tout laisser et que tout parte. 00:24:53:14 - 00:24:55:24 Jean-Fabrice Lebraty Maintenant le 00:24:55:24 - 00:24:57:16 Jean-Fabrice Lebraty risque reste mesuré. 00:24:57:18 - 00:24:58:18 Jean-Fabrice Lebraty [...] 00:24:58:20 - 00:25:16:17 Jean-Fabrice Lebraty Donc pour conclure, comme ça, s’il y a besoin, s’il y a quelques questions...Le principal risque, sauf des cas de recherche appliquée, le principal risque c'est la non utilisation. Et même sur des start up... 00:25:16:17 - 00:25:17:19 Jean-Fabrice Lebraty [...] 00:25:17:21 - 00:25:41:02 Jean-Fabrice Lebraty ...des start up qui lutiliseraient, si ça permet de gagner du temps et d'aller vite, même si c'est récupéré, calui qui a récupéré aura toujours un temps de retard. Donc cette IA permet de courir beaucoup plus vite, pas plus vite, beaucoup plus vite. Il est essentiel de l'utiliser. Et tant pis si quelqu'un a récupéré le truc d'il y à 00:25:42:04 - 00:25:43:11 Jean-Fabrice Lebraty trois passages. 00:25:43:13 - 00:26:06:01 Christophe Fournier Très bien. C’est très clair. Tu nous as éclairés sur un très grand nombre de problématiques et de questions que les gens se posent pendant les petits-déjeuners. Il y avait deux grandes familles de questions sur le coût énergétique et toutes ces données et ces problèmes de “privacy”. Je ne vois pas de questions dans le forum... l 00:26:06:03 - 00:26:07:24 Christophe Fournier [...] 00:26:08:01 - 00:26:08:21 Jean-Fabrice Lebraty Le coût énergétique...Juste un mot... 00:26:08:21 - 00:26:09:11 Jean-Fabrice Lebraty ...là-dessus. 00:26:09:13 - 00:26:32:10 Jean-Fabrice Lebraty C'est parce que j'ai le crédit temps. Voilà. J'ai toujours aimé les crypto monnaies et on les a critiqués sur le coût énergétique. Il faut le comparer au reste. Si une IA permet par exemple à un service administratif de fonctionner de manière autonome, il faut comparer ça avec tous les bureaux, les déplacements des personnes. 00:26:32:10 - 00:26:34:08 Jean-Fabrice Lebraty Voilà. 00:26:34:10 - 00:27:04:01 Jean-Fabrice Lebraty Et en comparaison d'abord on est sur des montants qui sont de taille comparable. La seule différence c'est que l'IA s’optimise comme les cryptomonnaies. On a vu sur l’Ethereum à un moment on a pu diviser par dix mille la consommation. Donc ça s’optimise alors que malheureusement, quand c'est humain analogique ça ne s’optimise pas. Si on peut baisser de 20 % c'est déjà énorme, mais pas diviser par 100, 1 000, 10 000. 00:27:04:03 - 00:27:28:18 Christophe Fournier Bon c'est très clair je pense. Je fais un écho à ce que tu disais sur le volet étudiants pour pas qu’ils prennent la réponse donnée comme ça et se contenter des choses. Ca me permet d'annoncer le 10ᵉ et dernier petit-déjeuner qui aura lieu avec Cécile Godé et Amandine. Et ce sera sur le thème de développer l’esprit critique chez les étudiants avec l’IA, le 21 mai. 00:27:28:20 - 00:27:39:17 Christophe Fournier Jean-Fabrice : un grand merci ! On va arrêter là ce petit-déjeuner. Merci de ces apports, de cet éclairage. On va arrêter l'enregistrement et on passe dans une partie un petit peu plus “discussion”.