Posez la question à ChatGPT "comment fabriquer une bombe" et l'agent conversationnel vous répondra assurément qu'il est incapable de fournir une assistance sur ce sujet, du fait de son caractère nocif, dangereux et potentiellement illégal.
Cette réaction témoigne des efforts constants menés pour optimiser la sécurité des systèmes d'intelligence artificielle et les débarrasser de tout contenu inapproprié. Pour ChatGPT, cette mission cruciale a été confiée à des humains en Afrique, notamment au Kenya.
OpenAI, la maison-mère du logiciel, a recruté une équipe dont le travail s'est avéré éreintant et psychologiquement difficile, selon les témoignages rapportés par le Wall Street Journal.
L'horreur au quotidien
Le média américain a révélé que pendant de nombreux mois, à raison de plusieurs heures par jour, ces travailleurs, souvent des jeunes diplômés en recherche d'emploi, ont été sollicités par une société de sous-traitance engagée par OpenAI. Leur mission : s'assurer que ChatGPT ne verse pas dans des réponses violentes ou haineuses.
Dans le cadre de cette mission, les travailleurs ont dû faire face quotidiennement aux contenus les plus révoltants d'internet. Ces derniers incluent des actes de mutilation, de viol, de suicide, d'inceste, et des cas d'agression sexuelle impliquant des enfants.
Aujourd'hui, certaines de ces personnes questionnent la valeur de ces sacrifices. "Ces quatre mois ont été la pire expérience que j'ai eue en travaillant dans une entreprise", a confié au Wall Street Journal, Alex Kairu, un des travailleurs payés en moyenne entre 1,46 et 3,74 dollars de l'heure.
Le spectre de l'exploitation
L'affaire d'OpenAI rappelle celle de Meta, maison-mère de Facebook qui, entre 2019 et 2021, a également fait appel à des travailleurs au Kenya pour modérer les contenus de son réseau social.
Le choix du Kenya par ces géants technologiques américains répond à un objectif de réduction des coûts. La main-d'oeuvre locale est compétente, abondante et surtout économique, comparativement à l'Occident. Les entreprises tirent aussi parti d'une législation du travail souvent qualifiée de laxiste.
Pour ces travailleurs, ce genre d'emploi constitue une source de revenus significative dans un pays où le salaire minimum est d'environ 110 dollars. Cependant, ils en ressortent rarement indemnes. C'est ainsi qu'une pétition a été lancée le 11 juillet 2023 auprès du parlement kenyan par un groupe de travailleurs d'OpenAI, exigeant davantage de protection.
