Mesdames et Messieurs les investisseurs, bonjour à tous. Je suis Maître Liu, et après 12 ans passés chez Jiaxi Fiscal à accompagner des entreprises étrangères, et 14 ans à plonger dans les méandres des procédures d'enregistrement à Shanghai, je peux vous dire une chose : le paysage réglementaire change plus vite qu'un « meitu » (美图) sur WeChat. Aujourd'hui, on ne parle plus seulement de comptabilité ou de TVA. Non, le nouveau mot à la mode, c'est « transparence des algorithmes ». Et croyez-moi, ce n'est pas juste un concept pour les geeks de la Silicon Valley. C'est devenu un véritable sésame administratif pour toute société étrangère qui utilise la technologie pour vendre, recruter ou même simplement communiquer avec ses clients en Chine.
L'article que nous allons décortiquer aujourd'hui, « Exigences de transparence des algorithmes pour les sociétés étrangères à Shanghai », n'est pas un simple texte de loi poussiéreux. C'est, à mon sens, une déclaration de souveraineté numérique. Imaginez un peu : vous êtes une entreprise de e-commerce française, votre algorithme recommande des produits. Ou une fintech allemande, votre modèle de crédit note les consommateurs. Avant, c'était votre « boîte noire » magique. Maintenant, les autorités de Shanghai veulent savoir comment cette boîte fonctionne. Pourquoi ? Parce que l'algorithme, c'est le nouveau pouvoir, et comme tout pouvoir, il doit être contrôlé. L'article que nous allons étudier jette les bases de ce contrôle, et pour un investisseur, ne pas le comprendre, c'est comme naviguer dans le brouillard de la Huangpu sans radar. Alors, attachez vos ceintures, on va faire le tour de la question, à ma façon, avec quelques anecdotes du terrain.
一、算法备案流程
Alors, le premier angle, et pas des moindres, c'est le processus d'enregistrement, ce qu'on appelle la « mise en archive » des algorithmes. Franchement, au début, quand j'ai vu ça, je me suis dit : « Encore une couche de paperasse ! ». Mais en y regardant de plus près, c'est bien plus profond. L'article stipule que toute société étrangère opérant des algorithmes ayant un « impact public significatif » doit déposer un dossier détaillé. Ça inclut quoi ? L'objectif de l'algorithme, ses données d'entraînement, ses critères de décision... un vrai catalogue de la vie privée de votre code.
Je me souviens d'un client, une grosse boîte de livraison de repas de Singapour. Ils pensaient que leur système de recommandation de restaurants était « trop simple » pour être concerné. Ils ont débarqué dans mon bureau, l'air confiant. « Maître Liu, c'est juste un tri par note et par distance, rien de sorcier. » Grave erreur. Leur algorithme, en apparence simple, favorisait systématiquement les chaînes franchisées au détriment des petites échoppes locales. Pour les autorités, c'était un biais algorithmique potentiel, faussant la concurrence. On a dû reprendre tout le dossier, expliquer pourquoi telle note était pondérée plutôt qu'une autre. C'est un exemple classique : la transparence, ce n'est pas juste « montrer le code », c'est expliquer l'impact social de vos choix techniques. L'article le dit clairement : il faut une « auto-évaluation de l'impact sur l'ordre du marché ». Un vrai casse-tête pour les DSI étrangers, je vous le garantis.
Et le problème, c'est que ce n'est pas un processus unique. Chaque algorithme, ou famille d'algorithmes, nécessite un dossier séparé. Pour une fintech avec dix modèles de risque, ça devient un travail d'archiviste. Il faut documenter non seulement la version actuelle, mais aussi les versions précédentes, avec un historique des modifications. C'est ce qu'ils appellent la « traçabilité ». J'ai souvent vu des entreprises paniquer parce qu'elles n'avaient pas conservé les logs de leurs anciens modèles. « On a optimisé le code, on a jeté les vieux fichiers », me disaient-ils. Et moi, je leur répondais : « En Chine, le vieux, c'est la preuve. » Il faut anticiper, mettre en place une vraie gouvernance des données algorithmiques dès le départ.
二、数据来源审查
Deuxième point, et ça, c'est le vrai nerf de la guerre : l'origine des données. L'article est très clair : vous ne pouvez pas juste nourrir votre algorithme avec n'importe quel jeu de données. Il faut auditer vos sources. Avez-vous collecté les données légalement ? Les utilisateurs ont-ils donné leur consentement éclairé ? Est-ce que vos données croisées violent les règles de la « Loi sur la protection des informations personnelles » (PIPL) ?
Prenons un cas concret. Une société de RH américaine, spécialisée dans le recrutement de cadres, utilisait un algorithme pour trier les CV. Leur modèle, entraîné sur des données du marché américain, était performant. Mais pour l'adapter à la Chine, ils ont commencé à scraper (extraire) des données de profils LinkedIn chinois et de réseaux sociaux. Problème : ces données, bien que « publiques », sont souvent considérées comme personnelles et sensibles selon le PIPL. L'article exige que vous déclariez la source de chaque variable. Si vous ne pouvez pas prouver que vous avez obtenu le consentement pour chaque CV, votre algorithme peut être suspendu. J'ai dû les aider à mettre en place un système de gestion du consentement, un vrai casse-tête technique et juridique, mais absolument nécessaire pour se conformer à cette exigence de transparence. Sans ça, vous êtes en zone grise, et on sait tous ce qui arrive aux entreprises qui traînent dans les zones grises à Shanghai.
Et ce n'est pas juste une question de légalité « papier ». L'article insiste sur le principe de « minimisation des données ». Vous devez justifier pourquoi votre algorithme a besoin de telle ou telle information. « Pourquoi votre modèle de recommandation a-t-il besoin de connaître le statut marital de l'utilisateur ? » C'est le genre de question que les régulateurs posent maintenant. Ne pas avoir de réponse solide, c'est un aller simple pour une amende ou une injonction de cesser l'activité. C'est pourquoi je dis toujours à mes clients : « Pensez à votre algorithme comme à un produit que vous devez labelliser. Chaque donnée est un ingrédient, il faut pouvoir dire d'où il vient et pourquoi il est dans la recette. »
三、公平性评估
Troisième angle, et celui-ci me tient particulièrement à cœur : l'évaluation de l'équité. L'article ne se contente pas de dire « soyez transparents ». Il exige que vous prouviez que votre algorithme n'est pas discriminant. C'est une notion très large en Chine, qui couvre le sexe, l'âge, l'origine géographique, mais aussi, et c'est nouveau, les « habitudes de consommation » ou le « statut économique ». En gros, votre algorithme ne doit pas créer de « passagers clandestins » ou de « citoyens de seconde zone » numériques.
Je pense à une plateforme de e-commerce européenne de mode de luxe. Leur algorithme de prix, en fonction de l'historique de navigation, proposait des prix légèrement plus élevés aux utilisateurs d'un certain quartier huppé de Shanghai, supposant une plus grande capacité d'achat. Classique en marketing, non ? Eh bien, aux yeux des régulateurs, c'est une forme de discrimination algorithmique par le prix. L'article les a obligés à démontrer, via des tests et des métriques, que leur modèle ne créait pas de distorsion. Ils ont dû engager un auditeur externe pour certifier que la variance de prix était justifiée par des coûts logistiques réels, et non par un profil utilisateur. C'est une couche de complexité énorme pour un département marketing habitué à la micro-segmentation.
Ce qui est intéressant, c'est que cette exigence pousse les entreprises à internaliser des compétences éthiques. Finies les décisions prises à la va-vite par des data scientists en mode « hacker ». Il faut maintenant des comités d'éthique algorithmique, avec des juristes, des sociologues même. J'ai vu des startups embaucher des philosophes pour les aider à rédiger leurs rapports d'équité. Ça peut sembler excessif, mais je pense que c'est une tendance de fond. La confiance du consommateur chinois est devenue un actif précieux, et la transparence est le seul moyen de la construire durablement. L'article oblige à faire cet effort, et à mon avis, c'est une bonne chose pour tout le monde, même si ça fait grincer des dents dans les salles de conseil.
四、安全漏洞报告
Quatrième point : la cybersécurité et les rapports de vulnérabilité. L'article lie intrinsèquement la transparence à la sécurité. Il ne suffit pas de dire comment fonctionne votre algorithme ; vous devez aussi prouver qu'il est sécurisé contre les attaques et les manipulations. Et surtout, vous devez avoir un plan pour signaler les failles. C'est ce qu'on appelle le mécanisme de « divulgation responsable », mais rendu obligatoire.
J'ai un client dans l'assurance, une grosse société française. Leur algorithme de détection de fraude était leur bijou de famille. Un jour, ils découvrent une vulnérabilité : un utilisateur malveillant pouvait, en trichant sur quelques champs, faire classer un sinistre frauduleux comme légitime. Leur premier réflexe, comme beaucoup d'entreprises, a été de vouloir « corriger en silence » pour ne pas ternir leur réputation. Mais l'article est formel : toute faille critique doit être déclarée aux autorités dans les 48 heures, accompagnée d'une analyse d'impact. Ils ont paniqué. On a dû monter un dossier en urgence, expliquer la mécanique de l'attaque, le nombre d'utilisateurs potentiellement affectés, et les mesures correctives. C'était un week-end infernal, croyez-moi.
Ce que beaucoup d'investisseurs ne réalisent pas, c'est que cette obligation transforme la cybersécurité d'un coût en un enjeu de conformité direct. Vous ne pouvez plus juste sous-traiter la sécurité à un prestataire cloud. L'article vous demande de démontrer une supervision de bout en bout de la chaîne algorithmique. Si votre fournisseur de données a une faille, c'est vous qui êtes en tort. Cela pousse à une due diligence beaucoup plus approfondie des partenaires technologiques. Et pour une PME étrangère, c'est une charge de travail administrative qui peut vite devenir écrasante. Mais comme je le dis souvent : « Mieux vaut un rapport détaillé qu'une inspection surprise. »
五、用户权利保障
Le cinquième angle touche au cœur de l'expérience utilisateur : les droits des utilisateurs sur leur propre traitement algorithmique. L'article donne des dents à des concepts comme le « droit à l'explication » et le « droit de refus ». Concrètement, un utilisateur peut demander à une société étrangère : « Expliquez-moi pourquoi votre algorithme m'a refusé un crédit » ou « Pourquoi mon prix pour ce billet d'avion est-il plus élevé que celui de mon voisin ? ». Et la société a l'obligation de répondre de manière intelligible, pas avec un jargon technique.
C'est un vrai défi opérationnel. Imaginez un chatbot de service client géré par une IA. Un client insatisfait veut parler à un humain. L'article stipule que vous devez non seulement lui fournir ce service, mais aussi expliquer pourquoi le chatbot a échoué à résoudre son problème. Vous devez « expliciter les limites de l'algorithme ». J'ai aidé une plateforme de voyage à mettre en place ce système. C'était une révolution culturelle pour leur équipe tech, habituée à ce que l'algorithme soit une « boîte magique ». Il a fallu former les agents du service client à lire des logs techniques et à les traduire en langage courant. « L'algorithme n'a pas pu traiter votre demande car votre situation chevauche trois catégories qu'il n'a pas appris à distinguer. » C'est le genre de phrase qu'ils doivent maintenant maîtriser.
Et ce n'est pas juste une question de réactivité. L'article impose aussi un droit au retrait facile. L'utilisateur doit pouvoir désactiver la personnalisation algorithmique en un clic, sans perdre l'accès au service de base. Pour un site de e-commerce, ça signifie offrir une version « non personnalisée » de votre catalogue. Beaucoup d'entreprises me disent : « Mais ça va casser notre modèle économique ! » Et je leur réponds : « C'est le prix à payer pour opérer à Shanghai. La confiance se gagne en donnant le contrôle à l'utilisateur, pas en le lui retirant. » C'est un changement de paradigme, mais ceux qui le comprennent vite auront une longueur d'avance.
六、跨境审查机制
Enfin, le sixième angle, et probablement le plus sensible pour nos amis étrangers : le mécanisme d'examen transfrontalier. L'article ne fait pas de distinction explicite entre une entreprise chinoise et une entreprise étrangère, mais dans les faits, il y a une couche de contrôle supplémentaire pour les algorithmes développés ou hébergés à l'étranger. Si votre algorithme est entraîné sur des données chinoises mais que le modèle est stocké sur un serveur à Francfort, vous êtes dans une zone à risque.
J'ai eu un cas récent avec une société de logiciels de reconnaissance faciale israélienne (enfin, basée à Hong Kong, mais vous voyez l'idée). Leur algorithme était excellent, mais leur infrastructure était en partie au Canada. L'article exige une « localisation des données et des processus de décision » pour les applications d'« intérêt public », ce qui inclut la sécurité publique et la finance. Ils ont dû créer une entité légale à Shanghai, avec un data officer local responsable, et migrer les parties critiques de l'algorithme sur des serveurs en Chine continentale. C'est un investissement lourd, mais sans ça, pas de licence. Certains investisseurs voient ça comme une barrière à l'entrée, mais je le vois plutôt comme un filet de sécurité. Ça évite que des décisions algorithmiques affectant des citoyens chinois soient prises en dehors de la juridiction, ce qui est logique d'un point de vue de souveraineté.
Le plus délicat, c'est la notion de « transfert de technologie induit ». Les autorités demandent parfois à inspecter le code source ou les poids du modèle lors de l'examen. Pour une entreprise étrangère, c'est son secret industriel. Trouver le juste équilibre entre transparence et protection de la propriété intellectuelle est un travail d'orfèvre. On utilise souvent des techniques comme le chiffrement homomorphe ou des environnements de test cloisonnés. Mais c'est un sujet de négociation sensible. Mon conseil : ne jamais arriver les mains vides. Proposez un plan d'audit transparent avant même qu'on vous le demande. Montrez que vous n'avez rien à cacher, tout en protégeant l'essence de votre innovation. C'est comme une danse, il faut être souple mais ferme.
结语与展望
Au final, ces « Exigences de transparence des algorithmes » ne sont pas une chasse aux sorcières, mais une tentative de civiliser la révolution numérique. On a passé des années à parler de big data, d'IA, sans vraiment encadrer leur usage. Shanghai, en tant que ville pionnière, pose les premières pierres d'un ordre numérique qui, je le crois, fera école. Les points clés sont clairs : un enregistrement rigoureux, une traçabilité des données, une équité prouvée, une sécurité transparente, des droits utilisateur renforcés et une gouvernance locale des modèles.
Pour l'investisseur étranger, c'est à la fois une épée de Damoclès et une opportunité. L'épée, c'est la complexité administrative et le coût de mise en conformité. L'opportunité, c'est que ces règles créent un terrain de jeu plus prévisible. Une fois que vous avez passé le cap, vos concurrents moins scrupuleux sont éliminés. La transparence devient votre avantage concurrentiel. Je vois de plus en plus de clients utiliser leur conformité comme un argument marketing : « Notre algorithme est audité par Shanghai, faites-nous confiance. » Et ça marche.
Pour l'avenir, je prédis deux choses. Primo, ces règles vont s'étendre à d'autres villes chinoises, voire devenir une norme nationale. Donc, mieux vaut investir maintenant dans un système de conformité robuste plutôt que de courir après les régulations. Secundo, nous allons vers une harmonisation internationale. L'UE a son AI Act, la Chine a ses règles. Les deux se ressemblent de plus en plus. Les entreprises qui adoptent dès maintenant une approche « privacy by design » et « ethics by design » seront les gagnantes de la prochaine décennie. À nous, professionnels du conseil, de les guider dans ce labyrinthe, avec un peu d'humour et beaucoup de pragmatisme.
--- ### Le point de vue de Jiaxi FiscalChez Jiaxi Fiscal, nous voyons ces nouvelles exigences comme une évolution inévitable du marché chinois. Depuis 12 ans, nous accompagnons nos clients étrangers dans la complexité administrative, et ce nouveau chapitre sur les algorithmes ne fait que renforcer notre conviction : la conformité n'est pas un fardeau, mais un investissement stratégique. Notre équipe a déjà développé une expertise spécifique pour vous aider à structurer vos dossiers de transparence, depuis l'audit initial de vos algorithmes jusqu'à la rédaction des rapports d'auto-évaluation d'impact. Nous collaborons avec des experts juridiques et techniques pour vous offrir une solution clé en main. L'objectif est de transformer cette contrainte réglementaire en un avantage concurrentiel, en vous permettant de démontrer à vos partenaires et clients chinois votre engagement en faveur d'une IA éthique et responsable. N'attendez pas la dernière minute pour agir ; anticipez, et faites de la transparence votre signature à Shanghai.
