L'Ère de l'Intelligence Artificielle

Résumé

Session avec le Dr. Eric Schmidt lors du Rail Summit autour du thème « L’IA est la genèse d’une nouvelle ère », en lien avec son livre co-écrit avec Henry Kissinger et Craig Mundy.
Discussion sur l’impact majeur imminent de l’IA et de l’AGI, les dynamiques industrielles mondiales, et les enjeux stratégiques, politiques et économiques.
Mise en garde sur la rapidité d’évolution, l’importance du timing dans l’innovation et les leçons du passé.
Événement marquant réunissant experts, dirigeants et fondateurs de la tech autour des perspectives industrielles et géopolitiques de l’IA.

(Aucun point d’action spécifique ou assignation individuelle n’a été présenté explicitement lors de cette session.)

L’IA marque le début d’une nouvelle ère, comparable à celle des Lumières, avec l’arrivée d’une intelligence non-humaine de plus en plus avancée.
Le « consensus de San Francisco » prévoit que la majorité des changements majeurs induits par l’IA surviendront dans les trois prochaines années.
Évolution rapide notamment grâce à la révolution agentique (usage d’agents IA spécialisés dans les workflows complexes).
Les organisations et gouvernements sont prévenus : ils ne sont pas prêts à la vitesse du changement et doivent s'y préparer sans délai.

AGI : intelligence artificielle généralement intelligente, apte à apprendre et à raisonner de façon autonome ; la superintelligence surviendrait lorsque l’IA dépasserait collectivement les capacités humaines.
Les entreprises et gouvernements devront apprendre à gouverner ou contenir des systèmes itératifs plus rapides que l'humain, ce qui pose des défis techniques et éthiques majeurs.
Les investissements matériels et l’infrastructure informatique sont au cœur de cette nouvelle compétition, justifiés par l’augmentation massive des besoins de calcul et de données.

La dynamique des effets de réseau accentue la compétition, notamment entre nations, avec un fort enjeu de préemption et de course à l’innovation.
Les grandes entreprises du secteur se convertissent en plateformes à effet de réseau, générant d’énormes barrières à l’entrée.
Le volume d’investissements dans l’infrastructure IA pourrait évoquer une bulle, mais la conviction partagée est celle d’un véritable changement structurel et non conjoncturel.

En Europe et en Chine, la dynamique open source est forte, à l’inverse des États-Unis où l’on privilégie les modèles propriétaires et l’intégration verticale.
Les modèles open source, particulièrement en IA, pourraient rapidement être les plus utilisés à l’échelle mondiale, modifiant les équilibres géopolitiques.
Risque géopolitique de voir la majorité de l’utilisation de l’IA mondiale reposer sur des modèles chinois open source.

Les domaines scale-free comme les mathématiques et le logiciel peuvent croître sans contrainte de données, permettant une explosion rapide de possibilités (ex. génération et validation automatique de preuves mathématiques ou de code).
Effets en cascade attendus sur la cybersécurité (multiplication potentielle des cyber-attaques automatisées), la biologie, la chimie, la physique et la médecine.
Les progrès dans ces domaines sont limités par la quantité de données disponibles, sauf pour le logiciel et les mathématiques.

Chez Google, la principale erreur a été le timing et le manque d’audace dans la mise en œuvre des idées, malgré un grand succès.
Conseils aux entreprises : agir immédiatement, accélérer le rythme d’innovation pour ne pas se laisser distancer dans un marché en forte concurrence et très liquide.

Reconnaissance unanime d’une accélération inévitable de l’impact de l’IA — Nécessité pour les organisations d’agir rapidement et d’adopter une approche proactive face aux bouleversements à venir.

Comment assurer une gouvernance et un contrôle efficaces des systèmes dotés de superintelligence ou de capacités d’auto-amélioration récursive ?
Quelle capacité réelle de containment pour une IA superintelligente, et avec quels outils ou cadres éthiques ?
Quelles seront les conséquences géopolitiques à long terme de la montée en puissance des modèles open source chinois dans le monde ?