Google Photos bloque vos recherches de photos de cannabis : quand la modération devient intrusive
Imaginez : vous parcourez votre galerie Google Photos à la recherche d’images prises lors d’une soirée entre amis dans un pays où la consommation de cannabis est légale. Vous tapez « cannabis », « weed » ou « joint » dans la barre de recherche et… rien. Zéro résultat. Comme si ces photos n’existaient pas. C’est le témoignage récurrent de plusieurs utilisateurs, qui constatent que la recherche de leur propre bibliothèque privée renvoie systématiquement des vides pour certains mots‑clés liés au cannabis, et ce, même lorsque d’autres termes proches comme « hemp » (chanvre) fonctionnent parfaitement.
Ask Photos et la recherche classique : même lutte, mêmes échecs
Le phénomène touche aussi bien la recherche classique de Google Photos que la fonctionnalité enrichie par Gemini, « Ask Photos ». Alors que la première devait rester un indexage simple des images personnelles, Ask Photos applique des couches d’intelligence artificielle et de filtrage qui semblent aller au‑delà d’une simple recherche par mots‑clés. Selon les retours, Gemini interpréterait certains termes comme des « prompts » pouvant déclencher des réponses inadéquates ou promouvoir des substances contrôlées, et activerait des restrictions comparables à celles qu’il applique dans un chat public.
Une modération excessive ou un bug de conception ?
Plusieurs éléments rendent la situation déroutante. D’une part, la logique du blocage paraît incohérente : des mots équivalents ou voisins (« hemp », « beer », « cigarette ») ne subissent pas les mêmes limitations, laissant penser qu’il ne s’agit pas d’un filtrage automatique appliqué à toutes les substances consommables. D’autre part, la recherche classique — qui, en théorie, n’implique pas l’IA de Gemini — renvoie elle aussi zéro résultat, ce qui suggère qu’un mécanisme commun affecte les deux modes ou qu’un souci technique plus large est en cause.
Conséquences pratiques pour les utilisateurs
Ces répercussions montrent que ce n’est pas seulement une question technique, mais aussi un enjeu d’expérience utilisateur et de responsabilité de la plateforme.
Pourquoi Gemini bloque‑t‑il ces recherches ?
La piste la plus plausible est que les filtres de sécurité et les politiques de contenu d’IA, conçus pour éviter la promotion ou la facilitation d’activités illégales, sont appliqués de manière trop extensive. Gemini a été entraîné pour reconnaître des demandes susceptibles de générer des contenus problématiques et pour restreindre les réponses. Cependant, l’applications de ces règles à du contenu strictement privé — vos photos personnelles — franchit une frontière délicate : l’IA semble traiter une requête de recherche privée comme un prompt public à modération.
Des contournements faciles mais inacceptables
Ironie du sort, il est souvent possible de contourner le blocage avec des synonymes ou des termes techniques : « hemp » retourne les mêmes images, tandis que « marijuana » ou « weed » restent bloqués. Ce contournement démontre l’arbitraire du mécanisme et l’absence d’une logique fine d’analyse du contexte. Plutôt que d’améliorer la précision, la solution actuelle prive simplement les utilisateurs d’un accès cohérent à leurs propres souvenirs.
Quels risques pour la vie privée ?
Au cœur du débat se trouve la confiance : confier ses images à un service implique d’espérer qu’elles soient traitées avec respect du contexte privé. Lorsqu’un algorithme applique des règles publiques à des images privées, il y a un glissement de gouvernance et une atteinte possible à la liberté d’accès à ses données.
Que peut faire Google pour régler le problème ?
Sans ces mesures, le risque est que la méfiance envers les outils d’IA intégrés aux services quotidiens s’accentue, poussant les utilisateurs à migrer vers des solutions plus privées ou à renoncer à certaines fonctionnalités pratiques.
Un enjeu réglementaire et culturel
La question dépasse la technique : elle touche aux cadres légaux et aux normes culturelles. Dans certains pays, la possession et la consommation de cannabis sont légales et socialement acceptées. Bloquer des images liées à cette substance dans ces régions crée une dissonance entre la loi locale et le comportement de la plateforme. Les entreprises globales doivent tenir compte de ces différences et adapter la modération en conséquence, plutôt que d’appliquer des règles universelles et rigides.
Comment agir si vous êtes concerné
Et surtout, exiger de la transparence : les utilisateurs ont le droit de savoir comment leurs données privées sont traitées et modérées par des intelligences artificielles.
Vers une modération plus nuancée
Le cas de Google Photos met en lumière une leçon essentielle : l’IA doit être suffisamment fine pour comprendre le contexte, et les plateformes doivent offrir des recours et des contrôles humains lorsque la situation l’exige. Bloquer automatiquement l’accès à ses propres images ne devrait jamais être la réponse par défaut. Si les modèles d’IA sont utiles pour sécuriser les espaces publics, leur application dans des environnements privés nécessite une gouvernance pensée, transparente et respectueuse des cadres légaux locaux et des droits des utilisateurs.