Risques de l’IA en entreprise : manque de discrétion et impact sur la vie privée

L’intelligence artificielle est de plus en plus présente dans notre quotidien, cependant il est important de rester vigilant. En effet, celle-ci a la capacité d’enregistrer de nombreuses données, sans faire de distinction entre les informations professionnelles et les éléments personnels qui devraient rester confidentiels. Il est donc essentiel de prendre des précautions pour protéger notre vie privée et éviter toute divulgation involontaire de données sensibles.

Les assistants d’entreprise et l’intelligence artificielle : une cohabitation délicate

Les assistants d’entreprise, traditionnellement garants des secrets et des confidences professionnelles, voient désormais une partie de leurs responsabilités être déléguées aux intelligences artificielles. Cependant, contrairement aux assistants humains, l’IA ne possède pas le même instinct de discrétion, ce qui peut parfois entraîner la divulgation d’informations confidentielles ou stratégiques au sein d’une entreprise. De plus en plus, des cas de partage accidentel d’informations privées se multiplient.

Alex Bilzerian, chercheur et ingénieur, en a récemment fait les frais. Après une réunion Zoom avec des investisseurs, il a reçu un courriel d’un assistant de transcription automatisé contenant non seulement le compte rendu de la réunion, mais aussi la conversation confidentielle des investisseurs après son départ, révélant des informations stratégiques sur leur entreprise.

Ce type de « fuites » n’est pas un cas isolé. En effet, les assistants IA, enregistrant tout ce qui est dit lors des réunions, ne sont pas programmés pour distinguer le contenu sensible. La facilité d’enregistrement offerte par ces outils devient donc un risque potentiel dès lors que les utilisateurs ne maîtrisent pas tous les paramètres de confidentialité.

Le jugement humain indispensable

Les assistants IA sont de plus en plus utilisés dans les entreprises pour automatiser diverses tâches telles que la transcription des réunions, la recherche de sujets ou la création de résumés quotidiens. Des géants de la technologie tels que Salesforce, Microsoft et Google développent des IA spécialisées pour améliorer les services clients, la gestion des ventes ou l’organisation des documents. L’objectif est d’augmenter la productivité et de soulager les employés de certaines tâches.

Cependant, bien que ces outils soient performants pour organiser et restituer des informations, ils manquent du jugement humain nécessaire pour évaluer le contexte et la pertinence de ce qui doit être enregistré ou partagé. Une simple inattention aux paramètres de sécurité peut donc exposer des informations sensibles à des personnes non autorisées.

Adapter les pratiques managériales

Les assistants IA offrent des options de contrôle de partage, comme la possibilité de restreindre les transcriptions automatiques aux collaborateurs d’un même domaine ou de désactiver le partage automatique. Cependant, ces options ne sont pas toujours claires pour les utilisateurs, ce qui peut entraîner des erreurs. Ce manque de contrôle concret accroît les risques de divulgation involontaire. Ainsi, les entreprises doivent sensibiliser leurs équipes sur la gestion des paramètres d’IA et rappeler aux participants de chaque réunion de demander le consentement pour les enregistrements.

L’intégration de ces technologies nécessite une adaptation des pratiques managériales. Les entreprises doivent sensibiliser leurs employés aux risques liés aux IA et les encourager à évaluer les paramètres de confidentialité avant chaque réunion. De plus, il est essentiel d’intégrer des barrières technologiques telles que des demandes de confirmation pour le partage de transcriptions afin de prévenir les envois automatiques non désirés. Le site gouvernemental français, FranceNum.gouv.fr, propose par exemple un guide sur la manière d’utiliser ChatGPT avec vos propres données.