Dans un récent article de blog, Vitalik Buterin, co-fondateur d’Ethereum, présente son point de vue sur le débat en cours autour du « techno-optimisme ». Ce message a notamment été suscité par le « Manifeste techno-optimiste » de Marc Andreessen, qui prône une adoption enthousiaste de la technologie, des marchés et du capitalisme comme outils pour propulser l’humanité vers un avenir meilleur. Le manifeste d’Andreessen s’oppose fermement à ce qu’il appelle une idéologie de stagnation, caractérisée par la peur du progrès et l’accent mis sur la préservation du statu quo.
Andreessen a notamment fait la déclaration audacieuse suivante :
« L’amour n’évolue pas, donc l’économie ne peut fonctionner que grâce à l’argent ou à la force. L’expérience de force a été menée et s’est révélée insuffisante. Restons avec l’argent. »
Cependant, selon Buterin, il est crucial de choisir activement les voies technologiques qui conduisent à des résultats positifs plutôt que de rechercher inconsidérément la maximisation des profits. Même si Buterin reconnaît le potentiel transformateur de la technologie pour façonner un avenir meilleur, il souligne l’importance de l’orientation plutôt que de l’ampleur du développement technologique. Apparemment, cette direction est centrée sur l’approche optimiste de la « bonté » de l’humanité plutôt que de « l’argent ». Contrairement à Andreessen, Buterin déclare :
« Je crois que l’humanité est profondément bonne[…] C’est pourquoi j’ai la ferme conviction que, parmi tout ce que nous avons connu et vu dans notre univers, nous, les humains, sommes l’étoile la plus brillante.
Nous sommes la seule chose que nous savons à ce sujet, même si imparfaitement, nous faisons parfois un effort sérieux pour nous soucier du « bien » et ajustons notre comportement pour mieux le servir.
Avancées technologiques et impact.
Un thème central du message de Buterin est le débat autour du développement et des implications de l’IA superintelligente, comme l’illustrent les récents conflits autour de l’OpenAI. Ces discussions se concentrent sur les risques potentiels posés par l’évolution rapide de la technologie de l’IA et sur la question de savoir si des organisations comme OpenAI pourraient agir trop hâtivement dans ce domaine inexploré. Les réflexions de Buterin contribuent à ce discours plus large, offrant sa perspective unique sur l’intersection de la technologie, de la société et de l’avenir.
Buterin se penche sur l’impact considérable de la technologie sur divers aspects de la vie humaine, allant de l’amélioration de l’espérance de vie aux progrès en matière d’accessibilité à l’information et de connectivité mondiale. Cependant, il souligne également les aspects les plus sombres de la technologie, notamment son rôle dans l’exacerbation des inégalités sociétales et la centralisation du pouvoir. Cette vision équilibrée sous-tend son argument en faveur d’une approche plus intentionnelle et éthique du développement technologique.
Tout en reconnaissant le pouvoir transformateur de l’IA mais en mettant en garde contre son développement incontrôlé, Buterin s’inquiète des risques existentiels posés par l’IA superintelligente, soulignant le potentiel d’une telle technologie de dépasser l’intelligence humaine et de dominer. Il préconise une approche prudente et contrôlée du développement de l’IA, en donnant la priorité aux considérations de sécurité et d’éthique.
Accélérationnisme défensif (d/acc)
La solution de Buterin s’appuie sur le concept de mouvement « accélérationniste efficace » en introduisant l’idée de [Defensive] Accélérationnisme (d/acc), philosophie qui promeut le développement de technologies favorisant la défense, la décentralisation et la démocratie. Surtout, note Buterin,
« Le « d » ici peut représenter beaucoup de choses ; en particulier, la défense, la décentralisation, la démocratie et le différentiel. Pensez d’abord à la défense, puis nous pourrons voir comment cela s’articule avec les autres interprétations.
Cette approche répond aux préoccupations concernant la centralisation potentielle du pouvoir et d’autres externalités négatives qui pourraient découler d’un progrès technologique incontrôlé.
Buterin donne la priorité aux technologies qui protègent contre les externalités négatives tout en favorisant un monde plus sûr et plus équitable. Il souligne la nécessité de technologies qui améliorent le potentiel humain et la liberté sans conduire à la centralisation du pouvoir ou à d’autres résultats indésirables.
Les aspects clés du d/acc comprennent :
- Concentration défensive: Mettre l’accent sur le développement de technologies qui protègent les individus et les sociétés contre diverses menaces, y compris celles posées par d’autres technologies potentiellement dangereuses.
- Décentralisation: Plaider en faveur de technologies qui distribuent le pouvoir et le contrôle loin des entités centralisées, réduisant ainsi le risque d’abus de pouvoir et augmentant la résilience contre les pannes ou les attaques.
- Alignement démocratique: Veiller à ce que les progrès technologiques s’alignent sur et soutiennent les valeurs démocratiques, en facilitant une plus grande participation, transparence et équité dans les structures sociétales.
- Considération éthique: Intégrer des considérations éthiques dans le processus de développement, en veillant à ce que la technologie serve le bien commun et respecte les droits et libertés de l’homme.
- La technologie comme outil d’autonomisation: Considérer la technologie comme un moyen d’améliorer les capacités et les libertés humaines plutôt que comme une fin en soi.
Buterin souligne ici l’importance des technologies cryptographiques, en particulier de la blockchain, dans sa vision d’un avenir techno-optimiste. Il considère ces technologies comme essentielles au maintien de la confidentialité, de la sécurité et de la décentralisation à l’ère numérique. Selon lui, la blockchain offre un moyen de créer des structures économiques et sociales résilientes et moins dépendantes d’un contrôle centralisé.
Ainsi, le d/acc de Buterin se concentre sur l’orientation des progrès dans une direction qui sauvegarde et promeut un avenir démocratique, décentralisé et aligné sur l’éthique. Ce cadre suggère une approche prudente mais proactive de la technologie, où les risques potentiels sont activement atténués et les avantages sont alignés sur les valeurs et les besoins de la société.
L’avenir du techno-optimisme.
Pour l’avenir, Buterin envisage un avenir dans lequel les humains et l’IA collaboreraient plutôt que rivaliseraient. Il suggère que la fusion de la cognition humaine avec l’IA pourrait conduire à une coexistence plus harmonieuse, dans laquelle l’IA améliorerait les capacités humaines sans les éclipser. Cette approche pourrait conduire à un avenir dans lequel l’IA s’aligne et amplifie les valeurs et les intentions humaines plutôt que d’agir comme une force indépendante et potentiellement menaçante. Il déclare,
« Une éventuelle étape supplémentaire, qui fusionnerait les deux voies, pourrait impliquer de télécharger nos esprits pour les exécuter directement sur des ordinateurs. Ce serait également l’ultime d/acc en matière de sécurité physique.
Il reconnaît les inquiétudes suscitées par ces évolutions, en particulier leur caractère irréversible et leur potentiel d’exacerbation des inégalités existantes en donnant plus de pouvoir à des individus déjà puissants. Pour atténuer ces risques, il propose que le développement et le leadership dans ce domaine soient idéalement dirigés par un mouvement open source axé sur la sécurité plutôt que dominés par des sociétés fermées et propriétaires et des fonds de capital-risque.
De plus, Buterin compare les risques associés à l’IA superintelligente fonctionnant indépendamment des humains avec ceux des augmentations étroitement liées aux utilisateurs humains. Il fait valoir que cette dernière, bien que non sans défis, présente moins de risques que l’IA autonome.
En fin de compte, le techno-optimisme de Vitalik Buterin s’enracine dans une profonde compréhension du potentiel et des pièges de la technologie. Son appel en faveur d’une approche plus intentionnelle et éthique du développement technologique, en particulier dans le domaine de l’IA, reflète un engagement en faveur d’un avenir où la technologie améliore la vie humaine sans compromettre nos valeurs ou notre sécurité.
« Je crois en un avenir bien plus brillant que le présent grâce à une technologie radicalement transformatrice, et je crois aux humains et à l’humanité.
Je rejette la mentalité selon laquelle le mieux que nous devrions faire est de garder le monde à peu près le même qu’aujourd’hui, mais avec moins de cupidité et davantage de soins de santé publics.
Buterin souligne que nos choix au cours de ce siècle charnière façonneront la trajectoire de l’humanité pendant des millénaires, peut-être plus que jamais.
Source https://cryptoslate.com/buterin-sees-benefit-of-uploading-minds-and-need-for-open-source-innovation-in-ai/
