Futures

Promouvoir une utilisation responsable de l’IA générative dans la fonction publique québécoise., (from page 20250615d.)

External link

Keywords

Themes

Other

Summary

L’auteur exprime son malaise face à l’interdiction de l’IA générative dans la fonction publique, arguant que cela pourrait nuire à la productivité gouvernementale. Bien qu’il reconnaisse les risques associés à cette technologie, il affirme que ceux-ci peuvent être atténués grâce à des politiques et des formations appropriées. L’auteur propose de collaborer avec le Ministère de la Cybersécurité du Québec pour mettre en place une approche responsable de l’IA générative. Il critique la décision d’interdiction, soulignant que l’éducation est cruciale pour une adoption sécurisée et efficace de l’IA et avertit que cette interdiction pourrait mener à une utilisation informelle et risquée de la technologie. Il souligne également un décalage entre l’approche provinciale et fédérale concernant l’utilisation de l’IA dans la fonction publique.

Signals

name description change 10-year driving-force relevancy
Réserves sur l’IA générative dans la fonction publique Inquiétudes quant à l’interdiction de l’IA générative au sein du gouvernement. Passage d’une prudence extrême à une adoption encadrée de l’IA générative. L’IA générative pourrait être intégrée de manière sécurisée dans les processus gouvernementaux. Optimiser la productivité gouvernementale tout en minimisant les risques associés. 4
Monde du travail et utilisation informelle de l’IA Utilisation croissante de l’IA en dépit des politiques d’interdiction. Transition d’un usage restreint à un usage rampant et non régulé. L’IA pourrait devenir un outil omniprésent au travail, malgré des règles formelles. Recherche d’efficacité et de compétitivité dans un environnement de travail exigeant. 5
Besoin d’éducation sur l’IA générative Appels à une meilleure éducation concernant l’utilisation de l’IA. Changement d’une mécompréhension à une sensibilisation et éducation souhaitées. Une main-d’œuvre mieux éduquée pourrait utiliser l’IA de manière plus responsable et efficace. Répondre aux craintes en offrant une formation adaptée pour une meilleure évaluation des risques. 4
Différence de vision entre province et fédéral sur l’IA Contraste entre la position du gouvernement provincial et celle du fédéral sur l’IA. D’un rejet au sein du provincial à une acceptation au fédéral. Une coordination améliorée sur les politiques d’IA entre province et fédéral. Reconnaissance croissante des bénéfices de l’IA pour la productivité et l’innovation. 3
Problèmes de confiance dans le partage de données sensibles Sondages montrant que des utilisateurs téléversent des données sensibles même lorsque l’IA est interdite. D’un respect des politiques à une négligence des règles pour l’accès à des outils. Les entreprises pourraient mettre en place des solutions pour protéger les données tout en facilitant l’utilisation de l’IA. La nécessité perçue de compétitivité incite à contourner les règles en place. 4

Concerns

name description
Decreased Productivity in Public Sector Restricting generative AI in the public sector may drastically reduce government productivity, impacting service delivery and efficiency.
Informal Use of Banned AI Tools Prohibition of generative AI might lead to informal and possibly insecure usage, increasing risks to sensitive data.
Intellectual Dependency on AI There’s a risk that users may rely too heavily on AI, shifting responsibility away from human judgment and decision-making.
Geopolitical Concerns over Data Security Confiding state operational data to AI systems could raise issues regarding data security implications with neighboring countries.
Lack of Education and Awareness Insufficient education and understanding about generative AI can elevate fears and hinder effective risk assessment.

Behaviors

name description
Advocacy for Responsible AI Pushing for the integration of generative AI into public functions with appropriate safeguards to enhance productivity.
Risk Mitigation through Education Emphasizing the need for education on AI risks and usage at all organizational levels to improve understanding and safety.
Informal Use of Banned Technologies Recognizing that prohibition of technologies like generative AI may lead to their informal and unsafe use.
Geopolitical Concerns in AI Usage Exploring the hesitation to share sensitive data with foreign entities as a geopolitical strategy rather than purely technical concerns.
Call for Policy and Governance Advocating for proper policy frameworks and governance structures to manage the risks associated with generative AI.

Technologies

name description
IA générative Technologie qui permet de générer du contenu original en utilisant des algorithmes d’intelligence artificielle, augmentant la productivité dans différents secteurs.
Politiques de gouvernance de l’IA Cadres réglementaires et politiques visant à encadrer l’utilisation et les risques associés à l’intelligence artificielle.
Éducation à l’IA Programmes visant à former les utilisateurs et les dirigeants sur l’utilisation et les risques de l’IA pour améliorer la sécurité et l’efficacité.
Modèles d’IA localisés Solutions d’intelligence artificielle adaptées et déployées au sein des entreprises pour répondre à des besoins spécifiques tout en maîtrisant les risques.

Issues

name description
Risques de l’IA générative dans la fonction publique Les défis de l’utilisation de l’IA générative dans la fonction publique, en particulier liés aux risques et à la productivité.
Éducation et formation sur l’IA générative La nécessité d’éduquer les dirigeants et employés sur l’IA générative pour atténuer les risques associés.
Utilisation informelle de l’IA générative Les dangers de l’utilisation informelle de l’IA générative malgré les interdictions officielles dans les organisations.
Gouvernance et politiques de l’IA L’importance de mettre en place une gouvernance et des politiques correctement structurées pour encadrer l’utilisation de l’IA générative.
Conséquences du protectionnisme géopolitique Le questionnement sur la sécurité des données d’État dans le contexte géopolitique et de dépendance technologique.