Sauver le soldat IA

Le pouvoir de la complémentarité

Dans Zero to One, Peter Thiel écrit:

L'idéologie de l'informatique

Pourquoi tant de gens mésestiment-ils le pouvoir de la complémentarité? Ça commence à l'école. Les ingénieurs logiciels ont tendance à travailler sur des projets qui remplacent les efforts humains, car c'est pour cela qu'ils sont formés. Les universitaires font leur réputation grâce à des recherches spécialisées; leur objectif premier est de publier des articles, et publier signifie respecter les limites d'une discipline particulière. Pour les informaticiens, cela signifie réduire les capacités humaines en tâches spécialisées que les ordinateurs peuvent être formés à conquérir un par un. Il suffit de regarder les domaines les plus branchés de l'informatique aujourd'hui. Le terme même de «machine learning» évoque des images de remplacement, et ses partisans les plus convaincus semblent croire que les ordinateurs peuvent apprendre à effectuer presque toutes les tâches, tant que nous leur fournissons suffisamment de données de formation. Tout utilisateur de Netflix ou Amazon a expérimenté les résultats de apprentissage automatique de première main: les deux sociétés utilisent des algorithmes pour recommander des produits en fonction de votre historique de visualisation et d'achat. Alimentez-les et les recommandations s'améliorent de plus en plus. Google Translate fonctionne de la même manière, fournissant des traductions approximatives mais utiles dans n'importe quel des 80 langues qu'il prend en charge, non pas parce que le logiciel comprend le langage humain, mais parce qu'il a extrait des modèles par l'analyse statistique d'un énorme corpus de texte. L'autre mot à la mode qui résume un biais en faveur de la substitution est le «big data». Les entreprises d'aujourd'hui ont un appétit insatiable pour les données, croyant à tort que plus de données créent toujours plus de valeur. Mais les mégadonnées sont généralement des données stupides. Les ordinateurs peuvent trouver des modèles qui échappent aux humains, mais ils ne savent pas comment comparer des modèles provenant de différentes sources ou comment interpréter des comportements complexes. Les informations exploitables ne peuvent provenir que d'un analyste humain (ou du type d'intelligence artificielle généralisée qui n'existe que dans la science-fiction). Nous nous sommes laissés envoûter par les mégadonnées uniquement parce que nous fétichisons la technologie. Nous sommes impressionnés par les petits exploits accomplis par les ordinateurs seuls, mais nous ignorons les grandes réalisations de la complémentarité parce que la contribution humaine les rend moins étranges. Watson, Deep Blue et les meilleurs algorithmes d'apprentissage automatique sont cool. Mais les entreprises les plus précieuses à l'avenir ne se demanderont pas quels problèmes peuvent être résolus avec les seuls ordinateurs. Au lieu de cela, ils demanderont: comment les ordinateurs peuvent-ils aider les humains à résoudre des problèmes difficiles?

Ce texte est remarquable dans la mesure où il montre comment les hommes ont tendance à faire de la technologie un fétiche et ainsi à prendre de mauvaises directions. Pour Peter Thiel, en allant plus loin, la complémentarité est la base sur laquelle construire un avantage concurrentiel, qui sera d’autant plus marqué qu’il n’y aura pas de concurrent! Faire zig quand les autres font zag...

Palantir⁠

, valorisé à environ $30 milliards maintenant, a été bâti sur cette hypothèse.

Car l’IA et l’homme sont bien complémentaires:

L’IA est très forte dans les environnements stables, statistiquement prévisibles. C’est pourquoi le long terme, qui apporte son lot de signes noirs échappe à l’IA. Paradoxalement, c’est dans ces environnements stables que l’homme peut manquer de jugement, emporté par ses impressions., alors que l’IA va voir des corrélations qui lui échappent. En cherchant à expliquer les choses, l’homme peut sur-réagir. En lançant un dé cinq fois consécutivement, il tombe systématiquement sur le 4. La sixième fois, il va surpondérer la probabilité que le 4 tombe une nouvelle fois car après tout, le dé est peut-être pipé...

L’homme est très fort quand il y a peu de données (il comble les manques), quand il y a des ruptures et des scénarios inattendus.

L’homme a une capacité de jugement, pas la machine. Cette dernière peut essayer d’apprendre à juger à conditions que les conséquences d’une action ne soient pas trop complexes et inattendues, en bref qu’elles soient statistiquement prévisibles. C’est pourquoi passer d’une IA prédictive à une IA qui exécute est semé d’embuches. Le débat autour des voitures sans chauffeur en est une illustration: peut on accepter que la voiture décide s’il vaut mieux tuer un vieillard qui traverse sans regarder ou l’homme dans la fleur de l’âge qui fait son jogging le long de la route.

L’IA est encore plus biaisée que l’homme dans ses prédictions car les biais des concepteurs sont codés, gravés dans le marbre. Au moins l’homme peut essayer de corriger ses biais ou de les faire corriger par d’autres.

Enfin l’homme a une capacité de sentir que n’a pas la machine. Les puces analogiques sont encore très en retard par rapport à nos cinq sens. Elles sont à la machine ce que les yeux ou les oreilles sont à l’être humain. Les puces analogiques qui convertissent un signal analogique en digital et vice-versa sont extrêmement difficiles à concevoir et intégrer, ont une durée de vie très longue, n’étant pas remises en question par la miniaturisation des processus de fabrication. Les leaders sont Texas Instrument et Analog Devices (surtout après sa fusion avec Maxim Integrated). La lenteur d’évolution de ces puces liée à leur intégration dans de nombreux systèmes industriels coûteux fait que les sens humains seront encore supérieurs pendant longtemps.

La supériorité de l’homme sur l’IA est donc écrasante, même si l’IA est bien meilleure dans certains cas où les corrélations sont fortes et difficiles à percevoir à l’oeil nu. L’homme prédit et exerce son jugement sans séparer les deux fonctions, mesurant intuitivement les conséquences de ses décisions. L’IA organise la division du travail: : elle peut traiter en masse des routines de prédiction, la contrepartie étant qu’elle laisse à l’homme le jugement pour exercer ou non ces routines (sinon, c’est vite la catastrophe !). Plus de prédictions entraine plus de jugement, donc plus de travail pour l’homme. Un exemple tout simple: quand Netflix fait tourner ses algorithmes pour aider à choisir une série, il laisse à l’abonné la décision de cliquer ou non. Ce dernier doit exercer son jugement et décider si la série vaut la peine. Il y a bien un travail homme/machine, mais l’astuce y est de faire travailler l’homme sans le rémunérer...Dans le système ancien, la chaine TV linéaire faisait la prédiction de ce que les spectateurs allaient aimer et la programmation qui s’ensuivait: le spectateur se faisait mâcher le travail, le plus souvent à son détriment. Netflix veut reproduire ce modèle mais en beaucoup plus pertinent, quand l’IA le permettra. Reed Hastings dans la dernière conférence téléphonique sur les résultats de Netflix:

Et puis ce qui est formidable au sujet des 10 prochaines années est que nous avons un bon modèle. Nous devons juste l'améliorer. Chaque jour, nous travaillons à améliorer notre service, en essayant de faire en sorte que sur le panneau d'affichage, le devant de l'interface utilisateur, vous puissiez simplement cliquer dessus et regarder en faisant confiance au résultat...

Les meilleurs outils décisionnels combineront la capacité de prédiction en masse de l’IA, complétée, contrôlée, amendée par le jugement humain. C’est la force du Medallion Fund: les données sont traitées en masse mais le cerveau humain doit sans cesse améliorer les agorithmes pour ne pas se faire rattraper par la concurrence. C’est également la force de Google: il lui faut sans cesse réviser ses algorithmes pour combattre les petits malins qui veulent faire tourner le moteur de recherche à leur profit (SEO). Ces deux maitres de l‘intelligence artificielle poussent tous les leviers à fonds: données, puissance de calcul, cerveaux. C’est la recette pour avoir un avantage concurrentiel pérenne.

Dans Zero to One, Peter Thiel explique comment lui est venu l’idée de Palantir, en essayant d’automatiser la détection de fraude quand il était encore chez Paypal: le problème était qu’à chaque fois qu’ils concevaient un algorithme savant, les fraudeurs le découvraient vite et le contournaient. Peter Thiel a fini par trouver la solution:

Les capacité d'adaptation des fraudeurs a trompé nos algorithmes de détection automatique, mais nous avons constaté qu'elle ne trompait pas aussi facilement nos analystes humains. Max et ses ingénieurs ont donc réécrit le logiciel pour adopter une approche hybride : l'ordinateur signalerait les transactions les plus suspectes sur une interface utilisateur bien conçue, et les opérateurs humains porteraient le jugement final quant à leur légitimité. Grâce à ce système hybride - nous l'avons appelé "Igor", du nom du fraudeur russe qui se vantait que nous ne pourrions jamais l'arrêter - nous avons réalisé notre premier bénéfice trimestriel au premier trimestre 2002

...et l’idée de Palantir.

Finalement, les plus malins sont ceux qui gardent la partie algorithmique, les coûts fixes, et sous-traitent la partie humaine (le jugement) à leurs utilisateurs, sans les payer. En rendant le service addictif, ils leur font oublier qu’ils les font travailler (on présente ce travail positivement en vantant l’importance d’augmenter le choix...). Ils peuvent même endurer un taux de défaut très important dans leurs prédictions car les rares fois où les utilisateurs cliquent suffisent largement à compenser le coût des erreurs de prédiction qu’ils peuvent faire par ailleurs. Ce sont les dominants de la publicité digitale...les Facebook, Google et Amazon, qui arrivent à maintenir leur modèle économique de coût marginal zéro, grâce à la supériorité écrasante de leurs données et puissance de calcul...Leur capacité prédictive n’est peut être pas formidable, simplement un peu meilleure que celle des autres et cela suffit, comme le Medallion Fund à faire la différence...

Want to print your doc?
This is not the way.

Try clicking the ⋯ next to your doc name or using a keyboard shortcut (

CtrlP

) instead.