Beaucoup de gens ont remarqué que ChatGPT a quelques défauts importants malgré le fait qu’il s’agisse d’un chatbot d’IA puissant. Il impressionne n’importe qui en quelques secondes ! Vous pouvez lui demander n’importe quoi, et il vous fournira une réponse qui semble avoir été écrite par un humain. Son écriture et sa compréhension ont été développées en l’entraînant sur de vastes volumes d’informations provenant d’Internet.
Pourtant, comme sur Internet, la frontière entre la réalité et la fiction n’est pas vraiment nette. Il se trouve que ChatGPT a commis des erreurs à cet égard à de nombreuses reprises. Voici quelques-unes de nos principales inquiétudes, alors que ChatGPT s’apprête à modifier notre avenir pour de bon.
Qu’est ce que ChatGPT ?
ChatGPT est un modèle linguistique qui reproduit notre langage. Vous pouvez converser avec ChatGPT comme vous le feriez avec un être humain, et il se souviendra de ce que vous avez dit dans le passé et sera capable de se corriger si nécessaire.
Il a fait ses armes à l’aide d’une variété de textes d’Internet, y compris Wikipédia, des articles de blog, des livres et des publications savantes. Cela signifie qu’en plus de vous répondre à la manière d’un humain, il est également capable de récupérer des données historiques de notre passé ainsi que des connaissances sur notre réalité actuelle.
Il est facile d’apprendre à utiliser ChatGPT et de croire que le système d’IA fonctionne sans problème. Pourtant, dans les mois qui ont suivi, des utilisateurs du monde entier ont poussé le chatbot jusqu’à son point de rupture, révélant quelques problèmes importants.
6 côtés négatifs de ChatGPT
1. OpenAI à la main mise sur le pouvoir
Si OpenAI (la société à l’origine de ChatGPT) a beaucoup de pouvoir, elle a aussi beaucoup de responsabilités. Avec non pas un mais plusieurs modèles d’IA générative, tels que Dall-E 2, GPT-3 et GPT-4, elle est l’une des premières entreprises d’IA à réellement secouer le monde.
OpenAI sélectionne les données utilisées pour entraîner ChatGPT, mais ce processus de décision est privé. Nous ne connaissons pas les détails de la formation de ChatGPT, les données utilisées, les sources des données ou l’architecture du système dans son ensemble.
Bien que la sécurité soit l’un des principaux objectifs de l’OpenAI, nous ne comprenons pas encore parfaitement le fonctionnement des modèles, pour le meilleur ou pour le pire.
En fin de compte, nous devons croire naïvement qu’OpenAI étudiera, créera et utilisera ChatGPT dans le respect de l’éthique. Que nous soyons d’accord ou non avec les approches, OpenAI continuera à développer ChatGPT conformément à ses propres objectifs et principes moraux.
2. ChatGPT produit des réponses inexactes
Il a des difficultés avec l’algèbre de base, semble incapable de comprendre une logique simple et va même jusqu’à présenter des faits totalement faux pour se défendre. Comme les utilisateurs de diverses plateformes de réseaux sociaux peuvent en témoigner, ChatGPT se trompe parfois.
Cette « hallucination » des faits et de la fiction, comme on l’appelle, est particulièrement dangereuse lorsqu’il s’agit de conseils médicaux ou de faits historiques importants. OpenAI est consciente de cette limitation et écrit que « ChatGPT écrit parfois des réponses à l’apparence plausible mais incorrectes ou absurdes ».
ChatGPT ne recherche pas de solutions sur internet comme le font Siri ou Alexa, ce qui le différencie des autres assistants d’IA. Au lieu de cela, il construit une phrase mot par mot, en choisissant le mot le plus susceptible d’apparaître après chacun d’entre eux, sur la base de son expérience antérieure.
En d’autres termes, ChatGPT formule une réponse par une séquence de suppositions, ce qui explique en partie comment il peut défendre des réponses incorrectes comme si elles étaient tout à fait exactes.
Il s’agit d’un outil d’apprentissage efficace qui fait un excellent travail de présentation de sujets difficiles, mais il ne faut pas prendre tout ce qu’il dit pour argent comptant. De nos jours, ChatGPT n’est pas toujours exact.
3. Le mécanisme de ChatGPT est biaisé
L’écriture collective de personnes du passé et du présent a servi de base à la formation de ChatGPT. Malheureusement, cela implique que le modèle est sensible aux mêmes biais que ceux présents dans la réalité.
L’entreprise s’efforce de réduire les réponses discriminatoires que le ChatGPT a générées à l’encontre des femmes, des personnes de couleur et d’autres groupes marginalisés.
L’une des façons d’expliquer ce problème consiste à pointer du doigt les faits et à attribuer l’erreur humaine aux préjugés présents sur l’internet et ailleurs. Cependant, OpenAI, dont les chercheurs et les ingénieurs choisissent les données utilisées pour entraîner ChatGPT, a aussi sa part de responsabilité.
Une fois de plus, OpenAI est consciente du problème et a déclaré qu’elle s’attaquait à ce qu’elle appelle un « comportement biaisé » en recueillant les commentaires des utilisateurs qui sont invités à identifier les résultats médiocres de ChatGPT.
Vous pouvez faire valoir que ChatGPT n’aurait pas dû être mis à la disposition du grand public tant que ces problèmes n’ont pas été examinés et corrigés, car ils pourraient mettre des personnes en danger. Pourtant, OpenAI pourrait ignorer la prudence dans la compétition pour être la première entreprise à fournir les technologies d’IA les plus puissantes.
4. ChatGPT pourrait nuire au système éducatif
Vous pouvez demander à ChatGPT d’éditer votre texte ou de vous donner des conseils sur la manière de renforcer un paragraphe. Vous pouvez aussi vous retirer complètement du tableau en demandant à ChatGPT de s’occuper de tout ce que vous écrivez.
Lorsque des devoirs d’anglais ont été envoyés à ChatGPT, les enseignants l’ont testé et ont constaté que les résultats étaient souvent supérieurs à ce que la plupart de leurs élèves pouvaient produire. ChatGPT est capable de tout faire sans hésitation, de la création de lettres de motivation au résumé des thèmes principaux d’une œuvre littéraire connue.
On peut donc se demander si les étudiants auront encore besoin d’apprendre à écrire à l’avenir si ChatGPT peut le faire à leur place. Bien que cette question puisse sembler existentielle, les écoles devront trouver une réponse rapidement lorsque les élèves commenceront à utiliser ChatGPT pour les aider à rédiger leurs dissertations. L’éducation n’est qu’un des secteurs qui seront choqués par l’adoption croissante de l’IA au cours des dernières années.
5. ChatGPT pourrait faire du mal dans le monde réel
Pour illustrer la manière dont les informations erronées fournies par ChatGPT pourraient affecter les gens dans le monde réel, nous avons noté que les conseils médicaux étaient incorrects. Mais il y a aussi d’autres problèmes.
Les escrocs peuvent facilement se faire passer pour une personne que vous connaissez sur les réseaux sociaux grâce à la rapidité avec laquelle un texte à consonance naturelle peut être rédigé. De même, l’outil permet de produire des textes exempts de fautes de grammaire, ce qui constituait auparavant un signal d’alarme évident dans les mails d’hameçonnage destinés à vous soutirer des informations sensibles.
Une autre préoccupation majeure est la diffusion de fausses informations. L’information sur l’internet deviendra sans doute encore plus incertaine en raison de l’échelle à laquelle ChatGPT peut produire du contenu et de sa capacité à faire passer même de fausses informations pour des vraies.
6. ChatGPT pourrait nuire au marché du travail
La création et l’adoption rapides de ChatGPT n’ont pas encore fait retomber la poussière, mais un certain nombre d’applications ont déjà intégré sa technologie de base. Duolingo et Khan Academy sont deux applications qui intègrent le GPT-4.
Cette dernière est un outil d’apprentissage éducatif à multiples facettes, tandis que la première est un logiciel d’étude des langues. Toutes deux proposent ce qui s’apparente à un tuteur IA, soit sous la forme d’un personnage doté d’IA avec lequel vous pouvez communiquer dans la langue que vous apprenez, soit sous la forme d’un tuteur IA qui peut vous fournir un retour d’information personnalisé sur votre apprentissage.
D’une part, cela pourrait modifier notre façon d’apprendre, en facilitant éventuellement l’apprentissage et en élargissant l’accès à l’éducation. L’inconvénient est que cela élimine des postes que les humains ont occupés pendant une très longue période.
L’innovation technologique a toujours entraîné la perte d’emplois, mais l’IA se développant très rapidement, de nombreux secteurs d’activité sont aujourd’hui confrontés à ce problème. ChatGPT et sa technologie sous-jacente sont susceptibles de modifier fondamentalement notre environnement, en ayant un impact sur tous les domaines, de l’éducation au design en passant par les professions liées au service à la clientèle.
S'attaquer aux plus grands problèmes de l'IA
Avec ChatGPT, il y a beaucoup de raisons de se réjouir, mais au-delà de ses applications pratiques, il y a des questions graves qu’il est important de comprendre. OpenAI reconnaît que ChatGPT peut fournir des résultats inexacts et biaisés, mais vise à résoudre ce problème en recueillant les commentaires des utilisateurs. Cependant, les personnes mal intentionnées peuvent facilement tirer parti de sa capacité à produire une prose convaincante, même lorsque les faits sont faux.
Il peut être difficile de prévoir les problèmes potentiels liés aux technologies de pointe. C’est pourquoi, même si son utilisation peut être divertissante, il convient de ne pas prendre les affirmations de ChatGPT pour argent comptant.
C’est déjà la fin de cet article. Nous espérons qu’il vous a apporté des pistes de réflexion concernant les côtés négatifs de ChatGPT. Vous voulez en apprendre davantage sur l’intelligence artificielle ? Consultez nos actualités et nos guides pour vous familiariser avec cette technologie d’avenir.
