Source : https://futureoflife.org/open-letter/pause-giant-ai-experiments/

Les sys­tèmes d’IA [intel­li­gence arti­fi­cielle] dotés d’une intel­li­gence com­pé­ti­tive avec celle de l’homme peuvent pré­sen­ter des risques pro­fonds pour la socié­té et l’hu­ma­ni­té, comme le montrent des recherches appro­fon­dies [1] et comme le recon­naissent les prin­ci­paux labo­ra­toires d’IA [2]. Comme l’in­diquent les prin­cipes d’IA d’A­si­lo­mar, lar­ge­ment approu­vés, l’IA avan­cée pour­rait repré­sen­ter un chan­ge­ment pro­fond dans l’his­toire de la vie sur Terre, et devrait être pla­ni­fiée et gérée avec l’at­ten­tion et les res­sources néces­saires. Mal­heu­reu­se­ment, ce niveau de pla­ni­fi­ca­tion et de ges­tion n’existe pas, même si les der­niers mois ont vu les labo­ra­toires d’IA s’en­fer­mer dans une course incon­trô­lée pour déve­lop­per et déployer des cer­veaux numé­riques tou­jours plus puis­sants que per­sonne – pas même leurs créa­teurs – ne peut com­prendre, pré­dire ni contrô­ler de manière fiable.

Les sys­tèmes d’IA contem­po­rains deviennent aujourd’­hui com­pé­ti­tifs sur le plan humain pour des tâches géné­rales [3], et nous devons nous inter­ro­ger : devrions-nous lais­ser les machines inon­der nos canaux d’in­for­ma­tion, de pro­pa­gande et de men­songes ? Devrions-nous auto­ma­ti­ser tous les emplois, y com­pris ceux qui sont gra­ti­fiants ? Devrions-nous déve­lop­per des cer­veaux non humains qui pour­raient un jour être plus nom­breux, plus intel­li­gents, plus obso­lètes et nous rem­pla­cer ? Devrions-nous ris­quer de perdre le contrôle de notre civi­li­sa­tion ? Ces déci­sions ne doivent pas être délé­guées à des lea­ders tech­no­lo­giques non élus. Les sys­tèmes d’IA puis­sants ne doivent être déve­lop­pés que lorsque nous sommes cer­tains que leurs effets seront posi­tifs et que leurs risques seront gérables. Cette confiance doit être bien jus­ti­fiée et aug­men­ter avec l’am­pleur des effets poten­tiels d’un sys­tème. La récente décla­ra­tion de l’O­pe­nAI concer­nant l’in­tel­li­gence arti­fi­cielle géné­rale indique qu”« à un moment don­né, il pour­rait être impor­tant d’ob­te­nir un exa­men indé­pen­dant avant de com­men­cer à for­mer les futurs sys­tèmes, et pour les efforts les plus avan­cés d’ac­cep­ter de limi­ter le taux de crois­sance du cal­cul uti­li­sé pour créer de nou­veaux modèles ». Nous sommes d’ac­cord. C’est main­te­nant qu’il faut agir.

C’est pour­quoi nous deman­dons à tous les labo­ra­toires d’IA d’in­ter­rompre immé­dia­te­ment, pen­dant au moins six mois, la for­ma­tion de sys­tèmes d’IA plus puis­sants que le GPT‑4. Cette pause devrait être publique et véri­fiable, et inclure tous les acteurs clés. Si une telle pause ne peut être mise en place rapi­de­ment, les gou­ver­ne­ments doivent inter­ve­nir et ins­tau­rer un mora­toire.

Les labo­ra­toires d’IA et les experts indé­pen­dants devraient pro­fi­ter de cette pause pour éla­bo­rer et mettre en œuvre conjoin­te­ment un ensemble de pro­to­coles de sécu­ri­té par­ta­gés pour la concep­tion et le déve­lop­pe­ment d’IA avan­cées, rigou­reu­se­ment contrô­lés et super­vi­sés par des experts externes indé­pen­dants. Ces pro­to­coles devraient garan­tir que les sys­tèmes qui y adhèrent sont sûrs au-delà de tout doute rai­son­nable [4], ce qui ne signi­fie pas une pause dans le déve­lop­pe­ment de l’IA en géné­ral, mais sim­ple­ment un recul par rap­port à la course dan­ge­reuse vers des modèles de « boîte noire » tou­jours plus grands et impré­vi­sibles, dotés de capa­ci­tés émer­gentes.

La recherche et le déve­lop­pe­ment dans le domaine de l’IA devraient être recen­trés sur l’a­mé­lio­ra­tion de la pré­ci­sion, de la sécu­ri­té, de l’in­ter­pré­ta­bi­li­té, de la trans­pa­rence, de la robus­tesse, de l’a­li­gne­ment, de la fia­bi­li­té et de la loyau­té des sys­tèmes puis­sants et modernes d’au­jourd’­hui.

Paral­lè­le­ment, les déve­lop­peurs d’IA doivent col­la­bo­rer avec les déci­deurs poli­tiques pour accé­lé­rer consi­dé­ra­ble­ment le déve­lop­pe­ment de sys­tèmes robustes de gou­ver­nance de l’IA. Ceux-ci devraient au mini­mum inclure : de nou­velles auto­ri­tés régle­men­taires com­pé­tentes dédiées à l’IA ; la sur­veillance et le sui­vi des sys­tèmes d’IA hau­te­ment per­for­mants et des grands pools de capa­ci­té de cal­cul ; des sys­tèmes de pro­ve­nance et de fili­grane pour aider à dis­tin­guer le réel du syn­thé­tique et pour suivre les fuites de modèles ; un éco­sys­tème robuste d’au­dit et de cer­ti­fi­ca­tion ; la res­pon­sa­bi­li­té pour les dom­mages cau­sés par l’IA ; un finan­ce­ment public robuste pour la recherche tech­nique sur la sécu­ri­té de l’IA ; et des ins­ti­tu­tions dotées de res­sources suf­fi­santes pour faire face aux per­tur­ba­tions éco­no­miques et poli­tiques dra­ma­tiques (en par­ti­cu­lier pour la démo­cra­tie) que l’IA pro­vo­que­ra.

L’hu­ma­ni­té peut jouir d’un ave­nir flo­ris­sant grâce à l’IA. Ayant réus­si à créer des sys­tèmes d’IA puis­sants, nous pou­vons main­te­nant pro­fi­ter d’un « été de l’IA » au cours duquel nous récol­te­rons les fruits de nos efforts, nous conce­vrons ces sys­tèmes pour le plus grand béné­fice de tous et nous don­ne­rons à la socié­té une chance de s’a­dap­ter. La socié­té a mis en pause d’autres tech­no­lo­gies aux effets poten­tiel­le­ment catas­tro­phiques [5], et nous pou­vons faire de même ici. Pro­fi­tons d’un long été de l’IA et ne nous pré­ci­pi­tons pas sans pré­pa­ra­tion vers l’au­tomne.

Notes et références

• [1] Ben­der, E. M., Gebru, T., McMil­lan-Major, A., & Shmit­chell, S. (2021, March). On the Dan­gers of Sto­chas­tic Par­rots : Can Lan­guage Models Be Too Big?. In Pro­cee­dings of the 2021 ACM confe­rence on fair­ness, accoun­ta­bi­li­ty, and trans­pa­ren­cy (pp. 610–623).
• Bos­trom, N. (2016). Super­in­tel­li­gence. Oxford Uni­ver­si­ty Press.
• Buck­nall, B. S., & Dori-Haco­hen, S. (2022, July). Cur­rent and near-term AI as a poten­tial exis­ten­tial risk fac­tor. In Pro­cee­dings of the 2022 AAAI/ACM Confe­rence on AI, Ethics, and Socie­ty (pp. 119–129).
• Carls­mith, J. (2022). Is Power-See­king AI an Exis­ten­tial Risk?. arXiv pre­print arXiv:2206.13353.
• Chris­tian, B. (2020). The Ali­gn­ment Pro­blem : Machine Lear­ning and human values. Nor­ton & Com­pa­ny.
• Cohen, M. et al. (2022). Advan­ced Arti­fi­cial Agents Inter­vene in the Pro­vi­sion of Reward. AI Maga­zine, 43(3) (pp. 282–293).
• Eloun­dou, T., et al. (2023). GPTs are GPTs : An Ear­ly Look at the Labor Mar­ket Impact Poten­tial of Large Lan­guage Models.
• Hen­drycks, D., & Mazei­ka, M. (2022). X‑risk Ana­ly­sis for AI Research. arXiv pre­print arXiv:2206.05862.
• Ngo, R. (2022). The ali­gn­ment pro­blem from a deep lear­ning pers­pec­tive. arXiv pre­print arXiv:2209.00626.
• Rus­sell, S. (2019). Human Com­pa­tible : Arti­fi­cial Intel­li­gence and the Pro­blem of Control. Viking.
• Teg­mark, M. (2017). Life 3.0 : Being Human in the Age of Arti­fi­cial Intel­li­gence. Knopf.
• Wei­din­ger, L. et al (2021). Ethi­cal and social risks of harm from lan­guage models. arXiv pre­print arXiv:2112.04359.

[2] Ordo­nez, V. et al. (2023, March 16). Ope­nAI CEO Sam Alt­man says AI will reshape socie­ty, ack­now­ledges risks : “A lit­tle bit sca­red of this”. ABC News.
Per­ri­go, B. (2023, Janua­ry 12). Deep­Mind CEO Demis Has­sa­bis Urges Cau­tion on AI. Time.

[3] Bubeck, S. et al. (2023). Sparks of Arti­fi­cial Gene­ral Intel­li­gence : Ear­ly expe­ri­ments with GPT‑4. arXiv:2303.12712.
Ope­nAI (2023). GPT‑4 Tech­ni­cal Report. arXiv:2303.08774.

[4] Il existe de nom­breux pré­cé­dents juri­diques – par exemple, les prin­cipes de l’OCDE rela­tifs à l’IA, lar­ge­ment adop­tés, exigent que les sys­tèmes d’IA « fonc­tionnent de manière appro­priée et ne posent pas de risque dérai­son­nable pour la sécu­ri­té ».

[5] Le clo­nage humain, la modi­fi­ca­tion de la lignée ger­mi­nale humaine, la recherche sur le gain de fonc­tion et l’eu­gé­nisme en sont des exemples.

---

➡ Pour appro­fon­dir ce sujet, lire Is AI Ali­gnable, Even in Prin­ciple ? (The Tree of Woe)

Article créé le 30/03/2023 – modi­fié le 17/04/2023 à 15h58 • 535 visites