Par Brian Amstrong
Au cours des dernières années, il est devenu de plus en plus courant pour les entreprises technologiques de censurer les clients ou de fermer leurs comptes pour diverses raisons (par exemple, la désinformation). Heureusement, en tant qu’entreprise de cryptographie, nous ne sommes pas confrontés à ce problème aussi fréquemment qu’un réseau social, mais nous devons toujours définir des politiques claires concernant l’utilisation acceptable de nos produits. Au fur et à mesure que notre suite de produits se développera, elle inclura même des produits qui hébergent du contenu généré par les utilisateurs comme les NFT.
Notre philosophie de haut niveau est que, dans une société démocratique, le peuple et ses élus devraient décider quel comportement est autorisé et non autorisé en établissant des lois. Nous pensons que cela crée un dangereux précédent lorsque des entreprises technologiques, telles que Coinbase, ou leurs dirigeants commencent à porter des jugements sur des questions de société difficiles, agissant en tant que juge et jury. Cette approche semble simple en théorie, mais en pratique, c’est tout sauf ça.
Premièrement, il peut être très complexe de déterminer si une activité est légale ou illégale. Les lois varient considérablement d’un pays, d’un État à l’autre et d’une région à l’autre. Certaines activités ne sont légales que si vous avez une licence. Certaines activités se situent dans une zone grise. Certaines lois injustes ne sont pas appliquées. Comme la plupart des entreprises, nous renvoyons les activités illégales présumées aux autorités compétentes, mais nous ne pouvons pas nous attendre à recevoir une réponse ou un avis en temps opportun de leur part étant donné les nombreuses demandes sur leurs ressources. Malheureusement, cela nous met, comme la plupart des entreprises, dans la position malheureuse de devoir prendre nos propres décisions quant à savoir quelle activité est légale ou illégale.
Deuxièmement, même si certaines activités sont légales, cela peut être quelque chose de profondément troublant à avoir sur la plateforme. Le monde est jonché de contenus polarisants, inconfortables ou obscènes qui peuvent encore être légaux. C’est là que les entreprises commencent à exercer encore plus de jugement sur ce qu’elles autorisent. Mais il y a un grand danger de tomber sur une pente glissante, d’avoir à rendre des décisions sur chaque problème de société difficile, où vous êtes sûr de déranger quelqu’un, peu importe où vous atterrissez. Sans une approche fondée sur des principes solides, ces décisions deviennent arbitraires et capricieuses, ouvrant l’entreprise aux attaques.
Enfin, chaque entreprise travaille avec d’autres entreprises qui ont leur propre ensemble de politiques de modération et de déplateforme. Par exemple, pour qu’une application soit répertoriée dans les magasins d’applications Apple et Google, elle doit respecter les règles de ces deux sociétés. Dans le monde des services financiers, nous travaillons également avec des banques et des processeurs de paiement qui ont leurs propres politiques d’utilisation acceptable. Très peu d’entreprises sont complètement intégrées verticalement, avec le luxe de prendre leurs propres décisions dans le vide.
Alors, comment une entreprise doit-elle mettre en œuvre une approche raisonnable basée sur les contraintes ci-dessus ? Nous avons trouvé notre propre réponse, et je veux la partager ici afin que nos clients puissent la comprendre, et au cas où cela aiderait d’autres entreprises.
Premièrement, il est important de différencier notre approche en fonction du type de produit. Coinbase propose une large gamme de produits, mais à des fins de modération, nous regroupons nos produits soit produits d’infrastructures ou produits destinés au public en pensant à la façon de les modérer. Les produits d’infrastructure permettent l’accès aux services financiers de base et sont généralement utilisés de manière privée par un seul client, tandis que les produits destinés au public hébergent souvent du contenu généré par les utilisateurs et ont des fonctionnalités sociales visibles par un grand nombre d’utilisateurs. L’article de Ben Thompson sur la modération dans l’infrastructure illustre comment les entreprises adoptent généralement une approche différente pour chacun de ces produits.
Pour nos produits d’infrastructure, nous utilisons règle de loi comme fondement de notre approche, car nous croyons que les gouvernements, et non les entreprises, devraient décider de ce qui est autorisé dans la société. Nous pensons également que tout le monde mérite d’avoir accès aux services financiers et qu’un test de légalité devrait suffire pour ces produits.
Pour nos produits destinés au public, nous commençons à nouveau avec l’état de droit comme fondement. Mais en supposant que quelque chose est légal dans une certaine juridiction, nous allons également au-delà de cela et modérons le contenu qui n’est pas discours protégé en vertu du premier amendement. Nous ne sommes pas légalement tenus au premier amendement en tant qu’entreprise, et le premier amendement est un concept axé uniquement sur les États-Unis, mais nous avons choisi de l’utiliser comme principe directeur de notre approche de modération de contenu car il est conforme à nos valeurs. et aide à s’assurer que nous ne tombons pas sur une pente glissante avec le temps. Le premier amendement s’appuie sur des centaines d’années de jurisprudence et fournit un cadre raisonnable pour modérer les contenus tels que l’incitation, les mots de combat, la diffamation, la fraude, la diffamation, etc. David Sacks décrit très bien cette approche dans cet article de blog.
Enfin, il existe des cas où nous souhaitons travailler avec des partenaires externes, tels que les App Stores, et devons suivre leurs politiques de modération pour ce faire. Parfois, les fournisseurs de paiement tiers ont leurs propres politiques. Pour les fournisseurs de paiement, nous pouvons simplement désactiver les fonctionnalités liées à ce partenaire s’il y a un problème avec un utilisateur spécifique, tout en continuant à offrir les services Coinbase. Mais se faire virer des app stores n’aiderait personne. Ainsi, lorsque nous travaillons avec des partenaires, notre approche consiste à être des partisans de la liberté d’expression, mais pas des martyrs de la liberté d’expressionet de faire des aménagements s’il est essentiel pour nous de fonctionner en tant qu’entreprise.
Il s’agit évidemment d’un problème complexe, et j’espère que l’approche ci-dessus commence à montrer un chemin qui ne se transforme pas en prise de décision arbitraire et capricieuse. Pour résumer l’approche ci-dessus, nous posons les questions suivantes pour nos produits destinés au public :
1. Le contenu est-il illégal dans une juridiction dans laquelle nous opérons ?
A. Si oui, alors retirer dans cette juridiction spécifique
2. Le contenu est-il une exception à la liberté d’expression en vertu le premier amendement?
A. Si oui, alors supprimer globalement
3. Un partenaire critique nous a-t-il demandé de supprimer le contenu ?
A. Si oui, supprimez le contenu ou désactivez la fonctionnalité de ce partenaire pour l’utilisateur concerné
Si la réponse à l’une de ces 3 questions est « Oui », nous prendrons des mesures de modération, telles que la suppression du contenu et, dans les cas graves, la fermeture du compte.
La majeure partie de cet article a porté sur la façon dont nous pouvons créer une politique de modération raisonnable qui ne soit pas cooptée au fil du temps, ne succombe pas à la pression ou ne nous submerge pas en tant que juge et jury. Ceci est important pour que Coinbase puisse résister à la pression. Bien sûr, la nature décentralisée de la crypto-monnaie offre ici ses propres protections importantes, et ces protections se renforcent à mesure que nos produits se décentralisent.
Si notre politique ci-dessus échoue et que Coinbase commence à faire des mauvais jugements ou tourne mal, les clients peuvent retirer leur crypto vers n’importe quel autre échange, portefeuille ou dépositaire concurrent. Comparez cela aux réseaux sociaux d’aujourd’hui, où vous ne pouvez pas emmener vos abonnés avec vous. Vos données appartiennent à une seule entreprise, dans un format propriétaire. La nature ouverte des protocoles cryptographiques permet de réduire les coûts de commutation, ce qui constitue une protection importante pour les clients, même pour les produits cryptographiques relativement centralisés. Mais les produits cryptographiques décentralisés ou auto-conservés bénéficient d’une protection encore plus grande, car l’entreprise fournit simplement un accès à quelque chose fonctionnant en chaîne. Par exemple, personne ne peut déplateformer votre nom ENS sans mettre tous les noms ENS hors ligne. La décentralisation vous fait passer du pente glissante vers la crypto falaiseoù le censeur potentiel doit compromettre une blockchain entière pour censurer une seule personne.
La décentralisation est un spectre, et Coinbase progresse dans cette voie au fil du temps, adoptant l’auto-garde avec Coinbase Wallet, intensifiant la formation des utilisateurs autour des clés privées et en investissant dans le développement de base de Bitcoin et les protocoles web3. Plus nous pouvons soutenir la décentralisation, meilleure sera la protection des clients.
Nous pensons que tout le monde mérite d’avoir accès aux services financiers et que les entreprises doivent mettre en place des contrôles appropriés pour empêcher la censure ou la fermeture injuste de comptes. Pour les produits d’infrastructure financière centralisés, nous pensons que l’état de droit est une norme suffisante pour la modération, tandis que pour les produits décentralisés, des protections encore plus grandes peuvent être fournies par la blockchain. Nous reconnaissons également que les produits destinés au public méritent une attention supplémentaire et que le premier amendement peut être utilisé comme un test ou une limite raisonnable. Nous pensons que cette approche est cohérente avec notre mission de créer plus de liberté économique dans le monde et avec l’éthique de la cryptographie.
Les entreprises se trouvent dans une position difficile lorsqu’elles choisissent de censurer ou de résilier un compte client. Ce qui semble souvent être une décision facile, en particulier sous la pression du public, s’avère avoir des conséquences imprévues plus importantes et crée un dangereux précédent pour le rôle des entreprises privées dans la société. Je suis sûr que nous n’obtiendrons pas la perfection avec notre politique ci-dessus, mais j’espère que nous avons défini des principes sur lesquels nous pouvons nous appuyer lorsque des décisions difficiles surviennent, et que les investisseurs, les clients et les employés peuvent avoir une meilleure compréhension de notre processus.
Lectures complémentaires
