L’intelligence artificielle générative désigne un type d’outil d’intelligence artificielle capable de produire du contenu en réponse aux invites de l’utilisateur. Ces technologies en constante évolution transforment les opérations dans les secteurs public et privé. Bien que les organisations adoptent rapidement l’IA générative, certaines préoccupations doivent encore être prises en compte lors du déploiement de ces outils.
Aujourd’hui, l’IA seule « ne vous permettra jamais de réaliser une tâche dans son intégralité », selon Christian Ferreira, PDG et fondateur de Procurement Sciences Inc.
Selon lui, l’IA générative en l’état actuel ne peut se passer d’une intervention humaine pour « la corriger et ajuster sa trajectoire ».
« Imaginons que vous êtes l’architecte et que l’IA est l’artisan. Elle va construire le bâtiment en se basant sur les plans que vous dessinez, et donc sur les instructions que vous lui donnez. Mais si vous omettez des détails tels que les coloris, les longueurs, etc., l’IA va prendre le relais et faire appel à sa propre expérience », a déclaré Christian Ferreira lors de la conférence Generative AI: The Game Changer You Can’t Afford to Ignore Webinar organisée mercredi dernier par GovCon Wir.
Ce type de relation est nécessaire pour prévenir certaines lacunes potentielles de l’IA, notamment en ce qui concerne la confidentialité des données. Les modèles d’IA générique utilisent de grandes quantités de données pour l’entraînement et sont largement accessibles à différents utilisateurs. Nous devons donc être « très prudents en ce qui concerne la confidentialité des données, en particulier pour tout type de document lié au travail ou à la vie privée », a-t-il déclaré.
La précision est une autre préoccupation liée à l’IA générique. D’après Christian Ferreira, ces outils ont tendance à « halluciner », c’est-à-dire à « inventer des choses ».
« Certains sont plus performants que d’autres, mais ils ne sont pas toujours précis et il est difficile de repérer les hallucinations sans avoir reçu une formation au préalable », a-t-il déclaré.