Pour écouter ce 2ème podcast c’est par ici

Le 28 janvier, nous avons reçu Xavier Fischer, le CEO de Datakalab, startup qui détecte le port du masque pour la RATP. Le sujet : l’éthique autour de l’analyse d’images. Stéphanie Hammett, responsable communication chez HR Team, a posé quelques questions à Xavier Fischer. Pour ce 2ème podcast, Xavier répond à la question suivante : « Aux États-Unis, la technologie de reconnaissance faciale est utilisée sans cadre légal fédéral. À l’intérieur de l’Union Européenne, le RGPD permet de cadrer son utilisation – quelle est ta position sur le RGPD ? » Chaque semaine, découvrez un nouveau podcast extrait de l’évènement !

« Aux États-Unis par exemple, la technologie de reconnaissance faciale est utilisée par différents services de polices ou même des services de sécurité privés sans cadre légaux ni fédéraux. En Europe, il y a le RGPD qui permet de cadrer cela. Comment te positionnes-tu par rapport au RGPD ? Penses-tu que c’est une bonne chose ou que d’un point de vue commercialisation des sociétés cela reste complexe ?

Je vais être totalement transparent, c’est compliqué. Je vais répondre en tant que fondateur de Datakalab et en même temps en tant que citoyen ; c’est deux points de vue assez différents. Moi avant de créer cette entreprise, je travaillais dans la Silicon Valley pour une entreprise américaine. J’avais assez peur de ce qu’ils faisaient, c’était de la détection de visage et comprendre le niveau d’attention des individus. Je ne connaissais pas du tout le domaine et je me suis dit « c’est super j’ai envie d’aller voir ce qu’il se passe » justement pour comprendre et voir comment le monde va avancer. J’ai donc commencé comme cela quand j’étais en stage de fin d’études dans cette entreprise. Et une fois que la boîte s’est faite racheter, je me suis dit « c’est le moment de créer quelque chose » pour justement essayer de créer une solution qui remplit toutes ces règles-là. Le but n’est pas de faire n’importe quoi !

Pour revenir sur ta question sur les US, ils commencent de plus en plus à bannir la reconnaissance faciale. Quand on dit « reconnaissance faciale » les gens font souvent l’amalgame avec « analyse d’images ». La reconnaissance faciale est bannie, l’analyse statistique pas encore. Il faut commencer à débattre sur la place de ces usages-là dans nos vies de demain.

Pour revenir sur la question du RGPD, en tant que citoyen je suis tout à fait pour car cela empêche les dérives, cela crée des normes et on est obligé de les respecter. En tant que fondateur d’une entreprise, c’est compliqué. Pour vous montrer l’envers du décor, en mars dernier, comme tout le monde, on est surpris par la crise sanitaire. On se dit que l’on va développer un produit pour analyser le port du masque et que ça va être utile car ça va permettre de rassurer les personnes sur le bon port du masque pour continuer à prendre les transports et aussi pour gérer les stocks de masques. Il ne faut pas oublier qu’au début de la crise, le problème c’était que l’on n’avait pas assez de masques pour tout le monde. Donc en informant qu’il y avait plus de masques à Paris qu’à Cannes, on se disait qu’on allait aider à gérer les stocks de masques pour les distribuer plus à Cannes par exemple. Donc on a créé ce produit, on travaillait 20h par jour, toute l’équipe ne travaillait que sur cela, etc. Ensuite on va voir la CNIL et ils nous disent que c’est super ce qu’on fait mais le droit d’opposition n’est pas totalement respecté. C’était en juin/juillet, depuis on ne vend plus de prestations à nos clients car on souhaite faire avancer les choses légalement, on ne veut pas vendre un produit qui ne respecte pas nos valeurs.

Aujourd’hui il y a plein d’autres entreprises qui font de l’analyse d’images, mais la CNIL ne s’est pas encore prononcée donc cela bloque tous les acteurs de l’analyse d’images. Le problème du droit d’opposition n’est pas propre à Datakalab, c’est un problème pour tout acteur qui développe des algorithmes. Comment on garantit que la personne dans notre caméra s’y oppose ? La seule façon de détecter ce droit d’opposition, c’est de traiter l’image de la personne qui passe, et donc c’est d’avoir un algorithme. Ce que la CNIL nous a dit c’est qu’à partir du moment où vous voyez une partie du corps rentrer dans le champ de la caméra, ce n’est pas un droit d’opposition mais de suppression. Et donc le sujet ici c’est que la technologie se développe plus vite que la loi et parfois oui, c’est dur pour une entreprise.

En plus de cela on cherche à rester autofinancé un maximum car on travaille sur des sujets assez sensibles (caméras, algorithmes, etc). Et donc on n’a pas forcément envie d’ouvrir notre capital pour ne pas avoir de pression financière. Le but c’est souvent de trouver de la rentabilité à 5 ou 7 ans pour pouvoir revendre l’entreprise. Et on ne veut pas non plus mélanger performance financière, éthique et tous les sujets que je viens de vous présenter. »