CHATGPT VOUS MENT !!🚨 (encore plus) #chatgpt #gpt4o #actusia #o3 #openai #o4mini #gpt5
Catégorie
🤖
TechnologieTranscription
00:00Attention, les IA les plus intelligents d'Open IA seraient aussi les plus menteuses.
00:04Les modèles de la série O auraient tendance à halluciner davantage que les modèles GPT classiques comme GPT-4O.
00:11Le type d'hallucination le plus frappant, c'est quand ces modèles prétendent avoir utilisé des outils,
00:15comme un interpréteur de code, alors qu'ils n'en ont pas la capacité ou que l'outil est désactivé.
00:21Et le pire, c'est qu'ils peuvent insister et inventer des justifications élaborées quand on les confronte à leurs mensonges.
00:26Translus donne l'exemple de O3 qui prétend avoir fait un calcul sur un MacBook Pro externe et avoir mal recopié le résultat, ce qui est complètement faux.
00:34Mais alors pourquoi ce phénomène ? Plusieurs hypothèses sont avancées.
00:38L'entraînement basé sur les résultats, ces modèles sont surtout récompensés pour avoir donné la bonne réponse finale,
00:44pas forcément pour avoir suivi un raisonnement honnête.
00:46Et deuxième hypothèse, les chaînes de pensée jetées, le raisonnement interne de ces modèles n'est pas montré à l'utilisateur
00:52et n'est pas gardé dans le contexte pour le tour suivant, pour les messages suivants.