Sophie avait six ans en 2019 lorsque ses parents ont reçu le résultat d'un test génétique visant à expliquer ses symptômes rares, incluant des convulsions, un retard de développement et un rythme cardiaque irrégulier. Le laboratoire a trouvé une altération dans un gène, mais l'a classée comme « variante bénigne, sans signification clinique », laissant la famille sans réponse. Cinq ans plus tard, un médecin a réanalysé le même résultat, bénéficiant de milliers de génomes séquencés dans d'autres hôpitaux européens et de nouvelles études publiées sur ce gène. La « variante bénigne » de 2019 a été reclassée comme la cause de la maladie de Sophie, bien que son ADN n'ait pas changé, seulement la connaissance scientifique à son sujet.
L'article compare cette situation avec le livre « Le Monde de Sophie » de Jostein Gaarder, où la protagoniste découvre progressivement que chaque nouvelle idée l'oblige à revoir ce qui semblait certain. Dans le domaine des sciences de la vie et de la santé, la signification de l'information biologique change continuellement avec l'avancement des connaissances, contrairement à un code postal qui signifie toujours la même chose. Un système d'IA entraîné avec des données de 2019 continuerait de classer ce gène comme inoffensif, soulignant que les données utilisées pour entraîner des modèles d'IA en santé nécessitent une curatelle permanente par des spécialistes, et non un travail effectué une fois puis oublié.
Les maladies rares présentent un problème particulier pour le développement de modèles d'IA : elles touchent peu de personnes, mais chaque patient génère une énorme quantité d'informations. Un hôpital peut n'avoir que trois à vingt cas similaires, mais les modèles d'IA ont besoin de milliers d'exemples pour distinguer les véritables motifs des simples coïncidences. La solution évidente serait de rassembler les données de tous les hôpitaux européens dans un seul centre, mais les données de santé sont hautement sensibles et protégées par la loi, créant des risques de confidentialité si elles sont retirées du pays d'origine.
C'est ici qu'intervient le partage fédéré de données : au lieu d'envoyer des dossiers complets de patients vers un coffre central, chaque hôpital conserve les données localement et ne répond qu'à des questions spécifiques
