Saviez-vous que le terme « intelligence artificielle » existe depuis la fin des années 1950? Historiquement, il était synonyme de mots tels que « progrès » et « évolution ». Nous vivons dans une époque où l’IA est un élément essentiel dans notre vie, tant sur le plan personnel que professionnel. Comptez-vous parmi les personnes qui utilisent Alexa, Siri ou Google pour des rappels, des alarmes ou simplement pour jouer de la musique pendant que vous cuisinez? Est-ce que votre entreprise a une boîte de clavardage sur une plate-forme Web ou mobile quelconque, ou envisage d’automatiser ce rapport qui vole une grande partie de votre temps au travail? 

Avec les progrès de l’IA, les inquiétudes concernant la vie privée, la surveillance, les préjugés et la discrimination ont également évolué, de même que les contraintes philosophiques et éthiques du jugement humain. Katrina Ingram est la fondatrice et PDG d’Ethically Aligned AI, une entreprise ayant pour objectif d’aider les organismes à obtenir de meilleurs résultats dans la conception, le développement et le déploiement de systèmes d’intelligence artificielle (IA). Katrina a pour mission d’aider les organismes à construire de meilleurs systèmes d’IA et d’aider les gens à faire de bons choix en sélectionnant des produits ou des services fondés sur l’IA qui sont fiables.

« Je me sens souvent comme Al Gore, de 2006, qui dit aux gens Une vérité qui dérange. L’éducation est une grande partie du travail, parce que les gens ne comprennent pas tout de suite de quoi vous parlez. Vous devez leur montrer quels sont les effets néfastes et leur expliquer pourquoi ce travail est important, ce qui peut prendre du temps. »

Pendant plus de deux décennies de sa vie professionnelle, Katrina a occupé des postes de haute direction dans des organismes à but non lucratif et des entreprises dans les secteurs de la technologie et des médias. En 2017, elle a fait un grand saut en prenant la décision de poursuivre des études de cycles supérieurs. 

À ce moment-là, l’IA était au cœur de l’entrepreneuriat et le monde s’orientait vers une époque d’intelligence supérieure.

« Au cours de l’une des conférences auxquelles j’ai assisté, un éminent chercheur en IA a fait part de ses préoccupations concernant la manière dont certains systèmes d’intelligence artificielle étaient construits et déployés de façon non éthique et nuisible. Quand je lui ai demandé qui travaillait à trouver une solution, il m’a répondu : “pas assez de gens.” »

Ce fut un moment décisif pour l’avenir de Katrina. Fidèle à sa curiosité, elle s’est inscrite pour en apprendre davantage. Elle a sauté dans le domaine de l’IA et de l’éthique.

Le parcours de Katrina Ingram pour « sauver le monde, un algorithme à la fois »

Bien que les entreprises en démarrage autour du monde soient en transition et investissent pour offrir des solutions d’IA numérique améliorées et en plus grand nombre, il manque un sentiment d’urgence à intégrer « l’éthique » dès le début. Katrina concentre ses efforts sur cette lacune et s’y distingue. Très peu de personnes dans le pays ont les compétences nécessaires pour comprendre l’éventail des questions à l’égard de l’éthique de l’IA, sans parler de l’intégration d’une solution dans un contexte organisationnel. 

« Tout prend plus de temps que prévu. Tout le monde commence quelque part, il faut tout simplement commencer. »

Ethically Aligned AI envisageait à l’origine d’auditer les systèmes d’IA et de fournir un sceau d’approbation aux entreprises performantes. Au fil du temps, Katrina et son équipe ont beaucoup appris sur les audits et les évaluations, ainsi que sur ce qui motive un audit ou une réglementation. Ainsi, comme chaque entreprise en démarrage, Ethically Aligned AI a évolué et recadré son argument clé de vente pour aider les organismes à construire et à déployer de meilleures solutions d’IA, en mettant l’accent sur l’éducation et le conseil. Katrina croit toujours que les audits sont importants, mais elle ne pense pas que le marché y soit encore prêt, même si des règlements comme le projet de loi C-27 pourraient apporter des changements dans un avenir proche.

Katrina est appuyée par une équipe consultative composée de deux professeurs de l’Université de l’Alberta qui ont également été ses conseillers universitaires au cours de son temps de recherche, ainsi qu’une amie de longue date qui est également une collègue de confiance.

Ethically Aligned AI et le Programme de préparation à l’investissement

Le parcours entrepreneurial de Katrina a coïncidé avec la pandémie, ce qui ne rend ses réalisations que plus inspirantes. 

« Une merveilleuse consultante en entrepreneuriat social, Anna Bubel, m’a informée du Programme de préparation à l’investissement. Elle m’a dit : “ce sera beaucoup de travail, mais si tu t’assois pour t’y concentrer, je pense que tu peux le faire!” »

Katrina avait un mois pour remplir sa demande, la passer en revue et l’envoyer. Expliquer l’éthique de l’IA et pourquoi il s’agit d’un problème qui touche l’impact social d’une façon très succincte était une tâche difficile, et l’est toujours, se souvient Katrina. Elle n’aurait pas pu se pousser à préparer sa demande de financement ou réussir les étapes nécessaires à poser la demande sans son système de soutien. Katrina fait le point sur le fait qu’il y a beaucoup de gens qui travaillent en coulisses pour que les choses bougent. 

De plus, d’après l’expérience de Katrina, le financement et les études de faisabilité qui ont été investis dans le Programme de préparation à l’investissement ont constitué une excellente base pour clarifier l’idée commerciale d’Ethically Aligned AI. C’est ce qui a mené à leur premier contrat et qui a amené l’entreprise sociale dans une direction particulière qui n’était pas prévue, mais qui est devenue un élément clé à la croissance d’Ethically Aligned AI. Grâce au PPI, Ethically Aligned AI a eu l’honneur d’être le tout premier organisme à vocation sociale à mettre au point le premier microdiplôme en éthique de l’IA au Canada en 2021, offert par l’Université Athabasca en Alberta. 

En tant que bénéficiaire du financement du PPI, Katrina Ingram d’Ethically Aligned AI espère qu’il y aura d’autres moyens de partager le parcours avec des organismes du PPI et de bâtir des relations. L’un des plus grands défis de Katrina a été de trouver une communauté qui touche la technologie numérique, l’impact social et les affaires. Si vous êtes ou connaissez une entrepreneuse sociale ou un entrepreneur social, ou alors un organisme à vocation sociale ayant des objectifs similaires, rassemblons pour favoriser l’harmonie entre la technologie et l’humanité! 

Suivre les tendances et favoriser la santé mentale

« Permettez une croissance à un rythme durable. Ne laissez personne d’autre vous dicter la cadence. »

Katrina divise son temps entre développer l’entreprise et travailler au sein de l’entreprise pour prendre du recul et réévaluer. Bien que ses six premiers mois aient été consacrés uniquement à la mise en place de l’entreprise sociale et des tâches connexes, maintenant elle s’améliore à équilibrer son temps passé avec le chapeau de patronne et le chapeau d’entrepreneuse. Katrina apprend aussi à prendre des pauses pour la santé mentale. 

« Je suis vraiment mauvaise avec ça! Je ne prends pas assez de pauses. La première année, je travaillais sept jours par semaine toutes les heures de la journée pour maintenir l’élan. En 2022, ce n’était pas aussi grave, mais je n’avais toujours pas un bon équilibre. J’aime vraiment mon travail, donc je n’y pense pas comme un fardeau, mais ce n’est pas viable à long terme. » 

Elle est en train d’y travailler. Katrina sort une fois par jour pour une promenade et un peu de temps à l’air frais, pour une durée d’au moins 30 minutes. Cette habitude a commencé à l’aider à mieux se concentrer et à se détendre un peu.

Elle imagine un monde où nous ne vivons pas tous dans une version dystopique de la Métaverse en 2030! L’une des choses sur lesquelles elle travaille est la vision fascinante de l’avenir en ce qui concerne la technologie et l’humanité. D’après Katrina, une grande partie de son travail actuel est « fais pas ci, fais pas ça », parce que les éthiciennes et éthiciens sont souvent obligés de nettoyer les dégâts. 

« Nous avons besoin d’une nouvelle vision inclusive d’un avenir collectif ayant moins de politiques capitalistes néolibérales. » 

Peut-être qu’il s’agirait d’un internet qui n’est pas guidé par un modèle publicitaire qui recourt à la vente de nos données et de notre attention. Ce serait un début.

—

Note en bas de page : Katrina Ingram (elle) est la fondatrice et PDG de Ethically Aligned AI. Elle est membre de l’IEEE et elle fait du bénévolat auprès de plusieurs organismes d’éthique de l’IA, dont Women in AI and Ethics (WAIE), For Humanity et All Tech is Human. Son nom figurait dans la liste des 100 femmes brillantes dans le secteur de l’éthique de l’IA de 2022. Écoutez son podcast AI4Society Dialogues où elle combine son amour de l’audio et son intérêt pour l’IA. Katrina est également membre du comité d’éthique de la technologie des services de police de Calgary.

Voici quelques-uns de ses projets et les points saillants de ses travaux : 

IA + U : un projet en partenariat avec l’Association canadienne des libertés civiles pour sensibiliser les jeunes à l’éthique de l’IA et aborder des sujets comme la confidentialité des données, le capitalisme de surveillance, l’apprentissage automatique, la cybersécurité et le racisme dans le cadre de la technologie.

Le monde construit par l’IA (The World That AI Built) est une courte vidéo qui se sert d’une version du 21e siècle du conte pour enfants, La maison que Jack a construite, pour expliquer le fonctionnement des systèmes sociotechniques.