De nombreuses personnes se demandent pourquoi la version la plus récente de ChatGPT, GPT-4 (lancée en mars 2023) est beaucoup plus lente que GPT-3.5. On remarque cette lenteur dès la première utilisation. Mais alors pourquoi GPT-4 est-il plus lent que GPT-3.5 ?
Qu’est ce que ChatGPT-4 ?
C’est la version la plus récente du chatbot d’OpenAI, communément appelé ChatGPT. Grâce à l’intelligence artificielle, cet outil peut répondre à vos demandes et à vos instructions de manière beaucoup plus efficace. ChatGPT peut communiquer avec les utilisateurs et fournir des informations et du contenu à l’aide d’un énorme modèle linguistique.
Grâce à ses nombreuses fonctionnalités, ChatGPT est utilisé par des millions de personnes. Il est capable d’écrire des histoires, de faire des blagues, de traduire des textes, d’instruire les utilisateurs, etc. Bien que le chatbot puisse être utilisé pour des activités plus sinistres, telles que la production de logiciels malveillants, sa capacité d’adaptation aux demandes des utilisateurs est impressionnante.
Le 14 mars 2023, le modèle GPT-4 de ChatGPT a été dévoilé au grand public. Cette version comprend d’autres langues et peut traiter des images, tout en comprenant le langage émotionnel à travers le texte. Il est également capable de répondre efficacement aux demandes les plus longues des utilisateurs.
Ses paramètres sont nettement supérieurs à ceux de GPT-3.5. Les paramètres de ChatGPT contrôlent la manière dont l’IA interprète les données et y réagit. Par essence, ils définissent la capacité du chatbot à dialoguer avec les utilisateurs. GPT-4 dispose d’un nombre stupéfiant de paramètres compris entre 100 000 milliards et 170 000 milliards, contre 175 milliards pour le GPT-3.5. Attention, OpenAI n’a pas validé ces chiffres.
Auparavant ChatGPT était alimenté par le modèle GPT-3.5 (qui a indéniablement laissé son empreinte dans le domaine de l’IA). Mais la technologie évoluant sans cesse, il a été remplacé par GPT-4. Rassurez-vous, il est toujours accessible.
Mais problème: GPT-4 est loin d’être parfait. En fait, la lenteur des temps de réponse de GPT-4 agace beaucoup d’utilisateurs. Nous allons donc nous pencher sur ce problème et sur ses causes possibles.
Constat simple: ChatGPT-4 est lent
Bon nombre d’utilisateurs ont remarqué que le nouveau chatbot d’OpenAI était excessivement lent. Beaucoup sont contrariées par cette situation, car GPT-4 était censé être une amélioration par rapport à GPT-3.5, et non un pas en arrière.
Plusieurs utilisateurs ont exprimé leur mécontentement concernant la lenteur de GPT-4 sur le forum communautaire d’OpenAI. Selon un utilisateur, il était « extrêmement lent » et même de simples demandes se heurtaient à des temps d’attente anormalement longs, de plus de 30 secondes.
Plusieurs utilisateurs ont rapidement commenté la page pour discuter de leurs expériences avec GPT-4. L’un d’entre eux déclarant que « la même demande peut prendre jusqu’à 4 fois plus de temps qu’avec GPT-3.5« .
Un autre utilisateur s’est plaint dans un autre post qu’il recevait occasionnellement un avis « error in body stream » au lieu d’une réponse à ses demandes. Dans le même message, quelqu’un a déclaré qu’il ne parvenait pas à faire en sorte que GPT-4 « réponde avec succès à une demande de script ». Un autre a signalé qu’en essayant d’utiliser GPT-4, il rencontrait des problèmes de réseau.
Il semble que GPT-4 soit truffé de problèmes qui rebutent progressivement les utilisateurs, notamment des retards et des réponses incomplètes ou non abouties.
Pourquoi GPT-4 est-il plus lent que GPT-3.5 ?
Un utilisateur a commenté le message mentionné ci-dessus et a suggéré que le retard était causé par un « problème actuel de surcharge de l’ensemble de l’infrastructure« , ajoutant qu’il est difficile d’aborder l’évolutivité en si peu de temps compte tenu de la popularité et du nombre d’utilisateurs de ChatGPT et de ses APIs.
Voici plusieurs causes potentielles de la lenteur de GPT-4. En premier lieu: une taille de contexte plus importante. Dans l’écosystème GPT, la taille du contexte correspond à la quantité de données qu’une version spécifique du chatbot peut absorber, traiter et restituer. La taille du contexte de GPT-4 est deux fois plus élevée que celle de la version précédente. Le fait d’avoir une taille de contexte deux fois plus grande peut donc affecter les performances globales de GPT-4.
L’amélioration de l’orientation et du contrôle de GPT-4 pourrait contribuer aux longs temps de traitement du chatbot. La gestion des erreurs et le langage inapproprié de GPT-4 pourrait être à blâmer car ces capacités nécessitent des étapes supplémentaires dans le processus de traitement de l’information.
Il a été suggéré que la capacité de traitement des images de GPT-4 pourrait entraver les progrès de cette itération. De nombreuses personnes adorent cette fonction utile, mais il pourrait y avoir un problème. Bien que cela n’explique pas les retards rencontrés par les utilisateurs qui ne soumettent que des invites textuelles, il est possible que cette fonctionnalité allonge les temps de réponse. Il a été rapporté que GPT-4 prend 10 à 20 secondes pour traiter une image fournie.
Certains pensent que le tout nouveau chatbot d’OpenAI doit passer par une phase de lenteur avant que tous ses problèmes ne soient résolus.
La quantité de paramètres que GPT-4 peut utiliser par rapport à GPT-3.5 est le principal facteur de sa lenteur. L’augmentation extraordinaire du nombre de paramètres indique simplement que le nouveau modèle GPT a besoin de plus de temps pour traiter efficacement les données et réagir. Plus la complexité est grande, meilleures sont les solutions, mais il faut un peu plus de temps pour y parvenir.
Que choisir entre GPT-3.5 et GPT-4
À ce jour, il semble que GPT-3.5 soit le choix de la rapidité. Étant donné qu’un grand nombre de personnes ont signalé des retards, il est probable que le problème de synchronisation concerne tout le monde, et pas seulement certains d’entre eux. Par conséquent, il peut être judicieux de continuer à utiliser ChatGPT-3.5 pour le moment s’il répond à tous vos besoins.
Vous devez savoir que GPT-4 est plus lent que GPT-3.5 dans l’ensemble. Mais GPT-4 présente de nombreux avantages par rapport à la version précédente. Passer de GPT-3.5 à GPT-4 peut être intéressant si vous recherchez un chatbot plus sophistiqué et que vous n’avez pas peur d’attendre plus longtemps pour obtenir des réponses.
Le mot de la fin
Bien que GPT-4 offre des fonctionnalités plus sophistiquées que GPT-3.5, certains l’ont trouvé inutilisable en raison de son temps de latence important et de ses échecs. Bien que ces problèmes soient susceptibles d’être bientôt résolus, GPT-4 doit encore franchir quelques obstacles et difficultés avant d’être accepté à plus grande échelle.
C’est déjà la fin de cet article. Vous voulez en apprendre davantage sur l’intelligence artificielle ? Consultez nos actualités et nos guides pour vous familiariser avec cette technologie d’avenir.
