Explore

Notes Entretien Jeremy

Presentation

Les enjeux geopolitiques de l'IA

Enjeux

Economique

Contexte de ressources planetaires qui s'appauvrissent et Economie basee sur la croissance : On cherche tout ce qu'on peut pour augmenter la productivite

Indications que l'IA augmente la productivité

Call center

https://www.nber.org/papers/w31161⁠

⁠

Software developers

https://arxiv.org/abs/2302.06590⁠

⁠

Professionels en milieu de carriere

https://www.science.org/doi/10.1126/science.adh2586⁠

⁠

Remplacement du travail humain

Potentiel de remplacement de 30% des emplois d'apres un rapport de l'IMF

https://www.imf.org/en/Publications/WP/Issues/2023/10/04/Labor-Market-Exposure-to-AI-Cross-country-Differences-and-Distributional-Implications-539656⁠

⁠

5% d'apres un autre rapport

Mais ces estimations ont été faites sur GPT4 seulement, version de 2023. Ne prends pas en compte l'arrivée des agents autonomes

Scientifique

Automatisation de la decouverte scientifique / de l'innovation technologique

Control plasma in fusion reactors (team at princeton)

⁠

https://engineering.princeton.edu/news/2024/02/21/engineers-use-ai-wrangle-fusion-power-grid⁠

⁠

Protein folding

⁠

https://alphafold.ebi.ac.uk/⁠

⁠

Predire la forme 3d d'une proteine a partir de sa sequence d'amino-acides

Les IAs maitrisent de plus en plus la biologie humaine

AI Scientist : un agent qui automatise la recherche (production d'hypothese, mise en place d'experience, faire tourner l'experience, analyser les resultats, ecrire un papier). Pas encore tres bon.

https://sakana.ai/ai-scientist/⁠

⁠

AI can automate AI research on tasks < 4 hours d'apres METR:

⁠

https://metr.org/blog/2024-11-22-evaluating-r-d-capabilities-of-llms/⁠

⁠

Tweet explicatif :

https://x.com/METR_Evals/status/1860061711849652378⁠

⁠

Defense / militaire

Cybercriminalité, cyberterrorisme

cybercrime cout total 8 trillions en 2023. x10 en 5 ans, progression acceleree

⁠

https://contre-rapport-ia.fr/#analyse-critique-du-rapport⁠

⁠

IAs qui maitrisent mieux la biologie = medicaments mais aussi bioterrorisme

Fake news

Automatisation de la production de fausses informations

Controle de la population

Les IAs qui comprennent le langage humain permettent d'automatiser l'espionage de conversations digitales

Course a l'armement vers la superintelligence

Faits sur les entreprises en lead sur l'IA

Leur but : developper une intelligence artificielle generale

Emails privés de OpenAI qui ont fuité confirment leurs intentions :

https://www.lesswrong.com/posts/5jjk4CDnj9tA7ugxr/openai-email-archives-from-musk-v-altman⁠

⁠

Leur moyen : tout miser sur la mise a l'echelle, avec le paradigme des transformers. On augmente la taille des modeles d'annee en annee, et, pour le moment, on obtient des systemes de plus en plus intelligents

Situational Awareness :

https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf⁠

⁠

Résumé plus accessible :

https://thezvi.substack.com/p/quotes-from-leopold-aschenbrenners⁠

⁠

Les problemes:

Paradigme energivore

x4 par an sur la taille des modeles

https://epoch.ai/blog/training-compute-of-frontier-ai-models-grows-by-4-5x-per-year⁠

⁠

OpenAI wants to build a $100 B 5GW supercomputer. That's 5 nuclear power plants

Energy consumption by data centers projected to double by 2026, to reach 1000TWh

Equivalent to the electricity consumption of Japan

⁠

https://www.theinformation.com/articles/microsoft-and-openai-plot-100-billion-stargate-ai-supercomputer⁠

⁠

Water

200 M L d'eau par an pour un seul centre de donnees de microsoft en arizona

⁠

https://futurism.com/the-byte/ai-environmental-toll-worse-than-you-think⁠

⁠

Paradigme dangereux d'apres la recherche en securite de l'IA

⁠

https://www.securite-ia.fr/panorama⁠

⁠

Exode de la securite de l'IA chez OpenAI : tous les chercheurs en securite de l'IA demissionnent et lancent l'alerte

⁠

https://www.transformernews.ai/p/richard-ngo-openai-resign-safety⁠

⁠

Evaluations faites a la va-vite

On entraine des IAs, puis on decouvre de quoi elles sont capables

https://www.youtube.com/watch?v=T87-abZjVSg⁠

⁠

Cela inclu des capacités dangereuses. Pour les identifier on fait appel a des groupes d'evaluations de capacites independants, comme Appollo Research ou METR.

Pour O1, ils n'ont eu qu'une semaine pour faire les evaluations de capacités dangereuses. Ce n'est pas assez et on obtient probablement une sous-estimation

Le risque de menace biologique pour le modele o1est passé au niveau "moyen" : ne permet pas a un non-expert de creer une arme biologique, mais accelere le processus pour un expert

⁠

https://www.transformernews.ai/p/openai-o1-alignment-faking⁠

⁠

L'IA de Meta utilisee par les militaires chinois. Leurs mesures de prevention sont completement inutile, du safety-washing pur et dur

⁠

https://www.transformernews.ai/p/metas-ai-safeguards-are-an-elaborate⁠

⁠

Solutions pour le grand public

S'informer, partager les informations avec vos proches

Parler a vos elus locaux : négligé

Rejoindre une association comme Pause IA

Faire un don

Want to print your doc?
This is not the way.

Try clicking the ⋯ next to your doc name or using a keyboard shortcut (

CtrlP

) instead.