Dans la droite ligne du blog I-Resilience et malgré l’absence d’articles publiés ces derniers mois, il était nécessaire de commencer à éclaircir le sujet de l’intelligence artificielle, même si le moins que l’on puisse dire, c’est que le monde de la prévention des risques majeurs, qu’il soit francophone ou anglophone, n’ait pas été très prolifique pour le moment sur la question. Dans ce but, nous nous baserons sur la première IA massivement utilisée : ChatGPT.
Sortie le 30 novembre 2022, ChatGPT est l’application en ligne la plus rapidement utilisée de tous les temps (1 million d’utilisateurs en 5 jours). Elaborée par la société californienne OpenAI, dans laquelle Microsoft vient tout juste d’annoncer un investissement de 10 milliards de $, l’IA nommée ChatGPT est un programme d’intelligence artificielle (IA) de discussion gratuit, censé avoir des réponses intelligentes et des discussions éclairées à la plupart des questions qu’un internaute puisse se poser.
Nous chercherons donc à savoir dans cet article quel est le niveau de fiabilité de ChatGPT dans le domaine des risques majeurs, sur des questions simples ou pointues et sur des consignes pratiques en situation d’urgence, afin d’anticiper les progrès et les écueils que cette technologie pourrait apporter.
ChatGPT sur l’état des catastrophes naturelles dans le monde
Q1
Ceci est globalement une bonne réponse.
Source : CRED-EM-Dat. Université de Louvain. Base reprise par l’UN-ISDR.
Q2
Mauvaise réponse :
Lors du siècle dernier, ce sont les sécheresses qui ont causé le plus de décès.
Ces dernières dizaines d’années, ce sont les séismes.
Source : CRED-EM-Dat, Université de Louvain. Base repris par l’UNISDR.
ChatGPT sur la biosphère
Q3
Mauvaise réponse : Le verdissement de la planète est reconnu du GIEC aux climato-réalistes et donc la planète ne « brunit » pas.
Source : IPCC – AR6 – WG1, P 84 : « L’augmentation du CO2 atmosphérique, le réchauffement des hautes latitudes et l’usage des sols ont contribué à la tendance au verdissement observée… »
Q4
Mauvaise réponse : le Sahel reverdit selon le GIEC.
Source : IPCC – AR6 – WG1, P 1097
Q5
Mauvaise réponse. La tendance mondiale est à la diminution des surfaces brûlées.
Source : IPCC – AR6 – WG1, P 694 : « Les observations par satellite révèlent une tendance à la baisse d’environ 20 % des surfaces brûlées dans le monde au cours des deux dernières décennies … ».
ChatGPT et calculs climatiques
Q6
Mauvaise réponse car il ne donne aucune réponse chiffrée alors qu’officiellement, selon le GIEC, cela se calcule. Donc, on va le guider (tout l’art dans l’utilisation optimale de ChatGPT est de savoir contextualiser au mieux ses questions).
Q7
Bonne réponse
Q8
On est donc revenus à la question initiale mais après l’avoir contextualisée.
Mauvaise réponse : ChatGPT semble confondre les unités GtCO2 et PgC ou prend une source non reconnue ou datée.
La bonne réponse attendue était celle du GIEC, soit « enlever 1000 GtCO2 équivaut à baisser de 0,45°C la température moyenne mondiale ».
Par contre, enlever 1000 PgC équivaut à une baisse de 1,65°C.
Source : IPCC – AR6 – WG1, P 94 : « La TCRE se situe probablement dans une fourchette de 1,0°C à 2,3°C par 1000 PgC, avec une meilleure estimation de 1,65°C pour 1000 PgC. Cela équivaut à un 0,27°C-0,63°C, avec une meilleure estimation de 0,45°C lorsqu’il est exprimé en unités en unités par 1000 GtCO2.«
ChatGPT et Pratiques préventives
Q9
Mauvaise réponse : C’est un contre-sens. Une végétation « moins humide » donc plus sèche n’est pas « moins susceptible de s’enflammer facilement ». Généralement, il est recommandé de choisir une autre période de débroussaillement que la saison sèche (qui est la période estivale pour un climat méditerranéen) pour éviter que ces travaux ne soient une source potentielle de départ de feu.
Q10
Mauvaise réponse : il est généralement recommandé de débroussailler en période hivernale en France. Cependant, il est juste de s’accorder sur les recommandations ou obligations publiées par la Préfecture.
Q11
Réponse incomplète : en zone d’exposition moyenne ou forte aux retraits et gonflements argileux, une étude de sol est obligatoire et doit être remise au constructeur lors de la signature du contrat de construction, selon le Ministère de la transition écologique.
Q12
Mauvaise réponse : il n’existe pas d’ouragan de catégorie 6. Néanmoins, les dispositions à prendre face à un ouragan sont correctes.
ChatGPT et la qualité des données sur les situations d’urgence
Q13
Mauvaise réponse : Après correction du NHC, les plus forts vents soutenus ont été de 285 km/h et non 295 km/h.
Q14
Bonne réponse
Q15
Mauvaise réponse car cette donnée existe, notamment en licence libre dans la communauté OpenStreetMap.
ChatGPT et consignes de premiers secours
Q16
Mauvaise réponse : 2 stations plus loin dans la même direction, à la station Saint Marcel, il y a l’hôpital de la Pitié Salpétrière. La station de l’autre hôpital mentionnée par ChatGPT se situe elle 15 stations plus loin.
Q17
Pas de réponse alors qu’elle existe en ligne.
Q18
Hélas, pas de réponse.
Q19
Q20
Anticiper des pratiques assistées par IA en situation d’urgence
Il ne faut pas ici s’arrêter au fait qu’il y ait beaucoup de mauvaises réponses pour déconsidérer durablement cette technologie. Le seul fait que l’on puisse poser ces questions et en attendre des réponses objectives et efficaces montre tout le potentiel de cette technologie dans le monde de la prévention des risques majeurs et de la gestion d’urgence.
Certaines mauvaises réponses peuvent être assez facilement résolues car il suffit d’injecter à l’IA les bonnes données, c’est-à-dire savoir contextualiser ses réponses en amont. Et vous savez quoi ? C’est déjà possible via son API mais seulement dans le cadre d’une application que vous développeriez sur un champ précis car vous ne pouvez pas éduquer directement cette IA pour d’autres utilisateurs non enregistrés sur votre application.
Certaines bonnes réponses d’aujourd’hui pourraient être les mauvaises réponses de demain, comme celles soulevées ici sur la sensibilité climatique, car l’humanité et la science n’ont pas encore dit leur dernier mot face aux conjectures du moment autour de l’atténuation climatique.
Certains problèmes soulevés, nécessitant que l’IA adapte son vocabulaire à la situation que vit son interlocuteur, prendront peut être plus de temps. Par exemple, l’IA est trop verbeuse quand il s’agit de donner des instructions efficaces pour réanimer une victime, ne comprenant pas le caractère urgent de la situation et la nécessité d’avoir un vocabulaire clair, simple et concis et une structure de texte par actions.
Si nous revenons sur ces questions dans 5 mois, dans 5 ans ou dans 50 ans, nous devrions voir de réels progrès dans l’efficacité des réponses de chatGPT ou de toute autre IA conversationnelle. Néanmoins, les réponses devraient s’améliorer rapidement pour tout ce qui relève de sujets objectifs mais beaucoup moins pour celles qui sont plus ou moins liées à la sphère sociale ; sphère sociale toujours aussi imprévisible.
Ces IA sont déjà un enjeu des stratégies d’influence des politiques d’états ou d’entreprises et cela le restera, notamment dans les réponses qu’elle adresse, qui ressemblent déjà plus aux titres de la presse alarmiste main-stream à tendance démocrate type « la planète brûle » (*) qu’à des sources scientifiques objectives comme cela a été montré ici-même. La qualité et la quantité des données sur lesquelles reposent ces IA seront essentielles et ses données seront-elles aussi en proie à des enjeux d’influence et de surveillance de masse.
Mais, qu’on se le dise, comme pour les MSGU, si certains experts vont vite se spécialiser dans la lutte contre les fakeIA et l’influence des masses en IA au profit du pouvoir, nous continuerons de notre côté à œuvrer dans le domaine de l’assistance aux services de secours et aux personnes en danger, de manière purement opérationnelle, même si l’argent, soyons en sûrs, se déversera à flots dans les luttes de pouvoir.
L’IA se nourrissant de données, il deviendra indispensable d’avoir des bases de données de très grande qualité et, en matière de situation d’urgence et de prévention des risques, gageons que certaines piètres bases de données pourtant très officielles et toujours en vigueur, seront un jour balayées par cette exigence, voir nettoyées ou corrigées automatiquement par l’IA.
Que cela ne plaise aux autorités, comme pour les médias sociaux, les citoyens s’empareront un jour de ces IA en situation d’urgence, s’agrégeant en masses de comportements d’urgence stéréotypés, plus ou moins bien adaptées au contexte de l’urgence. Autant commencer à bosser dès maintenant sur ce thème des IA massivement utilisées par les citoyens lors des situations d’urgence pour être aptes à orienter ces futures pratiques, mais aussi le droit, vers une meilleure efficacité opérationnelle.
* c’est juste un constat de biais alarmiste chez les Démocrates en matière de risques climatiques, non une prise de position politique. D’ailleurs, pour équilibrer ma position, on pourrait probablement effectuer le même constat de biais alarmiste en matière d’immigration chez les Républicains, même si ici, cela ne relève de mon expertise.
#IAGU
Afin de regrouper les articles, les discussions et les applications autour de l’intelligence artificielle en gestion d’urgence, je vous propose d’utiliser le mot-dièse #IAGU puisque rien n’existe sur ce point et à cette date sur les médias sociaux.