L'éthique de l'IA : 4 questions essentielles à se poser

Il y a un an, si j'avais dit « IA » à ma table, ma famille (d'âge mûr) n'aurait pas su de quoi je parlais. À part les enfants, bien sûr. Les enfants savent déjà tout.

L'accès généralisé récent aux outils d'intelligence artificielle générative destinés aux consommateurs a déclenché des conversations mondiales allant des prises de contrôle de robots à l'excitation des tâches qui font gagner du temps et qui sont retirées de nos assiettes pleines au travail.

Les experts en la matière du monde entier ont redoublé d'efforts pour créer des ressources d'apprentissage automatique pour les masses, tandis que les décideurs politiques envisagent des mesures réglementaires pour fournir des garde-corps, car les mauvais acteurs ont une journée sur le terrain pour tester nos systèmes actuels.

Dans le même temps, nous avons développé des politiques technologiques qui ont du mal à suivre le rythme de l'innovation, des populations qui ne peuvent pas distinguer efficacement les faits de la fiction en ligne, et la vie privée étant ouvertement ignorée par certaines des mêmes institutions qui vantent sa nécessité.

"En bref, l'intelligence artificielle est désormais un acteur de la formation du savoir, de la communication et du pouvoir."

Kate Crawford
Atlas de l'IA

Répondre à quatre questions principales autour de l'intelligence artificielle

Comment pourrions-nous obtenir des informations sur la direction dans laquelle nous nourrissons l'impact de l'IA ? Comment pourrions-nous atténuer de manière proactive les dommages causés par l'IA ? En tant qu'individus, entreprises et législateurs, comment pourrions-nous minimiser le risque d'ouvrir une boîte de vers d' apprentissage automatique ?

Cela commence par l'éthique - chacun de nous, en tant qu'individu, prenant des décisions éthiques.

Nous sommes des innovateurs. Nous sommes des travailleurs. Nous sommes des familles. Nous sommes des communautés. Nous sommes des entreprises. Nous sommes des nations. Nous sommes une humanité globale. Nous construisons, alimentons et enseignons les machines et avons donc 100% d'entrée sur leur sortie.

L'IA affectera chacun d'entre nous sur cette planète et chacun d'entre nous a un intérêt et une voix dans la façon dont elle est - et n'est pas - autorisée dans nos vies.

Nous apprenons de nos erreurs dans la vie et dans les affaires et l'IA n'est pas différente. L'apprentissage est le fondement même de la nature de l'IA. C'est, après tout, ce qu'on appelle l'apprentissage automatique . La façon dont nous le construisons détermine ce qu'il produit. Alors, où l'éthique s'applique-t-elle ici ?

Omettre cette dernière étape du cycle de vie est – vous l'aurez deviné – contraire à l'éthique .

Ces étapes peuvent sembler des jalons parfaitement raisonnables pour assigner des règles et des lignes directrices. Nous vivons aux côtés des algorithmes d'apprentissage automatique depuis les années 1950 . Nous travaillons depuis plusieurs années à la rédaction de normes éthiques mondiales en matière de données et d'IA. Et pourtant, nous sommes loin d'un accord et encore plus loin de l'adoption.

Si nous examinons certains obstacles juridiques actuels pour les grandes technologies, il est clair que les personnes chargées de prendre des décisions à chaque étape du cycle de vie des IA ne tiennent pas sérieusement compte des considérations éthiques.

Questions éthiques autour de l'IA

Alors, comment insistons-nous sur des pratiques éthiques de la part des personnes impliquées à chaque étape du cycle de vie de l'IA ?

Comment l'IA impacte le travail et l'économie

Trois études de cas récentes de Stanford, MIT et Microsoft Research ont trouvé des résultats similaires dans la croissance de la productivité des employés grâce aux outils d'IA générative par rapport à leurs homologues qui n'utilisaient pas d'outils pour accomplir leurs tâches.

Dans différentes disciplines (assistance client, ingénierie logicielle et création de documents commerciaux), nous constatons dans les données empiriques que les utilisateurs professionnels ont augmenté leur débit de 66 % en moyenne. Dans le meilleur des scénarios, cela permet de gagner du temps sur des tâches exigeantes sur le plan cognitif, créant les conditions pour des touches humaines plus personnalisées, de l'imagination et des livrables raffinés.

Avec une productivité accrue à grande échelle, on craint que certains emplois finissent par devenir obsolètes. Historiquement, une industrie a un cycle de vie naturel lorsque de nouvelles innovations arrivent sur les marchés du travail. Par exemple, vous êtes-vous déjà demandé ce qu'il advenait des opérateurs téléphoniques ?

Personne ne dispose d'un interrupteur magique qui permet aux travailleurs sous-qualifiés ou sous-qualifiés d'entrer immédiatement dans des industries nécessitant des compétences plus avancées. Il existe un déficit de compétences qui dépend historiquement des filets de sécurité sociale et les épuise. Ces lacunes de compétences prennent du temps à identifier, à financer et à combler. Même si certains pays soutiennent de manière proactive le perfectionnement des compétences de leurs travailleurs, les données montrent que les segments les plus vulnérables de notre population mondiale ont tendance à être touchés de manière disproportionnée pendant ces beaux jours innovants.

Alors que les prévisions économiques indiquent fortement des impacts positifs sur le marché du travail des utilisations génératives de l'IA dans les entreprises, savons-nous pleinement ce qui est menacé par ce boom économique ?

Des créateurs tels que des artistes, des musiciens, des cinéastes et des écrivains font partie des industries avec plusieurs recours collectifs contre OpenAI et la société mère de Facebook, Meta. Les grandes entreprises de technologie qui bénéficient de l'IA réfutent les allégations selon lesquelles le travail protégé par le droit d'auteur des artistes a été utilisé illégalement pour former des modèles d'IA. Les artistes suppriment des comptes en ligne en masse et des sociétés créatives de premier plan comme Getty Images intentent des poursuites . En réponse, la FTC a récemment enquêté sur les pratiques de récupération de données en ligne d'OpenAI.

Sommes-nous prêts à risquer qu'une génération de créatifs et leurs industries adjacentes empêchent la publication de travaux en ligne ? Quel impact cela aura-t-il sur notre évolution culturelle créative, les moyens de subsistance des créateurs et l'impact social et politique à long terme que cela aurait ? Quelqu'un a-t-il réfléchi à cet impact potentiel, déterminé si les risques juridiques et de réputation étaient justifiés et décidé d'aller de l'avant ?

Peut être. Ou ils n'y ont simplement pas réfléchi du tout. Dans les deux cas, la décision était contraire à l'éthique, quelle que soit leur interprétation des implications juridiques.

En tant qu'économie mondiale, il est essentiel d'identifier les organisations opérant dans le cadre de pratiques éthiques afin de donner la priorité à leur soutien par rapport à celles qui enfreignent les normes éthiques. En ne mettant pas en évidence la posture éthique des décideurs, nous risquons par inadvertance de détourner le regard précisément au moment où nous avons besoin d'un examen approfondi.

Comment l'IA a un impact sur l'environnement

L'IA est une infrastructure énergivore. L'impact environnemental est en grande partie hors de vue et hors de l'esprit, et est souvent une réflexion après coup dans un espace comme le secteur de la technologie.

Le MIT Technology Review a rapporté que la formation d'un seul modèle d'IA peut émettre autant de carbone que cinq voitures, l'équivalent de plus de 626 000 livres de dioxyde de carbone. Les minéraux terrestres jouent également un rôle important dans ce qui alimente l'énergie du traitement informatique de masse de l'IA générative. L'extraction des métaux nécessaires à l'infrastructure physique du calcul se fait souvent au détriment de la violence locale et géopolitique .

"Sans les minéraux de ces endroits, le calcul contemporain ne fonctionne tout simplement pas."

Kate Crawford
Atlas de l'IA

Rappelez-vous notre troisième question éthique : quel capital est nécessaire pour alimenter l'IA à grande échelle ? Faire une analyse logique des avantages-coûts à long terme. Le capital naturel sous forme d'impact sur notre planète ne devrait pas être exclu de l'équation si nous sommes assez courageux pour poser les bonnes questions.

Poser les bonnes questions peut être effrayant, surtout si les questions impliquent votre propre gagne-pain comme source de discorde. Mais dans l'intérêt du savoir, c'est le pouvoir , les technologues doivent adopter la transparence pour finalement participer à toute solution technologique éthique.

Ce n'est pas du sabotage d'entreprise ! Un groupe de praticiens de l'apprentissage automatique "qui sont également conscients de l'état global de l'environnement" se sont engagés à construire des outils d'aide pour évaluer les émissions de carbone générées par leur travail. Après évaluation, ils peuvent calculer des moyens de réduire ces émissions. Ils ont même créé ce calculateur d'émissions pour que d'autres praticiens de l'IA puissent calculer des estimations.

Comment les cadres de retour sur investissement affectent l'éthique de l'IA

La réglementation ne peut à elle seule résoudre nos problèmes d'IA. Les technologues sont souvent motivés par des mesures qui, pour eux, peuvent sembler éthiquement agnostiques parce qu'elles ne sont pas réglementées, mais elles génèrent un retour sur investissement. Quels sont ces frameworks générateurs de retour sur investissement ? Où voyons-nous ces ensembles de règles dans la nature qui renvoient une forme de récompense à l'entreprise qui suit les règles ?

Considérons l'algorithme Google PageRank comme un exemple d'impact non réglementaire sur l'éthique technologique. L'algorithme Google PageRank analyse une "variété de signaux qui s'alignent sur l'expérience globale de la page". Cela inclut des éléments qui s'alignent sur les meilleures pratiques UX, conformément aux directives et aux politiques de confidentialité de l'ADA.

Aucun modèle de dark-web ne signifie un classement favorable. Ne pas être conforme à l'ADA signifiera des classements moins favorables. En améliorant la présence d'un site et en suivant les consignes de Google, nous constatons que des décisions éthiques sont prises par inadvertance, sur la base du respect d'un ensemble de règles non réglementaires.

Pourquoi le site de votre entreprise devrait-il suivre les meilleures pratiques suggérées par l'algorithme de cette autre entreprise ? Parce que cela garantit vos meilleures chances de bien vous classer sur Google. L'impact sur la découvrabilité et l'importance perçue d'une entreprise en ligne, qui affecte ses résultats, est un facteur de motivation et influence donc les pratiques éthiques sans application de la réglementation.

Cela commence par nous

Peu importe qui vous êtes, chacun joue un rôle dans la minimisation des risques qui vont de pair avec l'utilisation contraire à l'éthique de l'intelligence artificielle et des outils d'apprentissage automatique. En tant qu'individus, il est crucial que nous prenions des décisions éthiques concernant l'utilisation de l'IA et comment - et quoi - nous enseignons à ces machines sur la société.

L'histoire de l'IA ne fait que commencer et la façon dont elle transformera complètement l'avenir est une histoire qui n'est pas écrite… pour le moment. Heureusement, nous avons notre mot à dire sur l'évolution de l'IA dans nos vies personnelles et professionnelles. Tout revient à s'assurer que l'éthique est une priorité.

G2 veut avoir de vos nouvelles !

Ceux qui s'intéressent à l'éthique de l'IA, veuillez partager vos réflexions sur ce qui manque dans cette conversation qui est la plus importante pour vous, votre industrie, votre entreprise ou votre gagne-pain. Je prévois de continuer à développer cette conversation et à partager des articles ultérieurs basés sur les idées et les enseignements de vous et du reste de la communauté G2.

Vous voulez plus de leadership éclairé ? Cet article fait partie de la série G2 Voices qui présente une variété de dirigeants influents de G2.