Coût vs. taille du contexte par modèle | Prompt / entrée
Coût vs. taille du contexte par modèle | Completion / sortie
Evolution du coût d’un appel API | « Modèles vitrine »
Pour simplifier la comparaison dans le temps, ce graphique est basé sur le coût d’un appel API : un prompt (entrée) de 250 tokens (environ 180 mots) et une complétion (sortie) de 650 tokens (environ 480 mots). Voir ci-dessous pour visualiser ce que cela représente.
Le taux de change EUR-USD est calculé le jour où les données ont été collectées.
Les API Google utilisent des caractères plutôt que des tokens. Pour cette comparaison, la conversion appliquée est de 4 caractères pour 1 jeton.
Le meilleur modèle de chaque fournisseur (modèle vitrine) est utilisé comme référence. Comme il s’agit du meilleur modèle, la version peut changer. Par exemple, avant novembre 2023, GPT-3.5 était utilisé pour ce graphique, qui a ensuite été remplacé par GPT-4, ce qui explique l’augmentation du coût dans ce cas.
Exemple prompt (entrée) – 250 tokens (conversion 4 caractères = 1 token):
Lorem ipsum dolor sit amet, consectetur adipiscing elit. Donec porttitor lorem elit, vulputate vehicula felis suscipit in. Nulla rhoncus purus a vehicula efficitur. Curabitur euismod, nibh et dictum luctus, turpis lectus consequat turpis, condimentum ornare massa eros sit amet ex. Nulla facilisi. Aliquam pretium odio id ex fermentum dictum. Pellentesque habitant morbi tristique senectus et netus et malesuada fames ac turpis egestas. Mauris id orci rhoncus, consequat nisi et, fermentum augue. In eleifend sapien a ipsum iaculis, sit amet blandit sem scelerisque.
Ut tincidunt massa a est consectetur fringilla. Morbi tempor pellentesque felis, non iaculis ante. Duis aliquet congue neque et ultrices. Maecenas at varius justo. Donec accumsan, odio vel venenatis porta, risus diam porttitor enim, non varius mi sem a tellus. Sed interdum imperdiet dapibus. Integer semper ligula eget tellus rhoncus pellentesque. Mauris faucibus mauris quis lectus rutrum rhoncus. Phasellus vitae condimentum nulla.
Exemple complétion (sortie) – 650 tokens (conversion 4 caractères = 1 token):
Lorem ipsum dolor sit amet, consectetur adipiscing elit. Maecenas ultricies mattis sollicitudin. Pellentesque suscipit massa gravida, egestas mauris tempor, fermentum libero. Nulla facilisi. Proin eu erat urna. Nullam sed justo congue, laoreet odio sit amet, varius velit. Nulla sem nunc, semper sed pretium vel, ornare vitae sapien. Suspendisse finibus at erat ut congue. Cras porta quis nunc in dapibus. Pellentesque efficitur dui ornare dolor bibendum, sed dictum augue gravida. Vestibulum rutrum id augue vitae congue. Phasellus sollicitudin pellentesque tincidunt. Suspendisse luctus feugiat est ac faucibus. Donec nisi nisl, scelerisque eget dolor vitae, molestie ultrices lorem.
Cras consequat velit non nibh vulputate sodales. Ut fringilla quam sit amet gravida viverra. Quisque et sollicitudin orci. Integer eget neque arcu. Maecenas nec elit fringilla, euismod ligula non, feugiat augue. Ut maximus rhoncus consectetur. Vestibulum ante ipsum primis in faucibus orci luctus et ultrices posuere cubilia curae; Nullam id purus aliquet, pretium ante imperdiet, consectetur tortor. Vivamus eu leo id diam accumsan vestibulum tristique ac felis. Mauris leo orci, sagittis nec lorem in, semper suscipit justo.
In quis mollis ipsum. Aliquam varius vitae turpis non bibendum. Duis laoreet dolor velit. Cras dapibus efficitur lacus, ut facilisis mi porta id. Integer eleifend, eros et tempor luctus, velit turpis ultricies lacus, laoreet dignissim sapien odio quis nulla. Maecenas quis ultricies enim. Aliquam sit amet egestas augue. Sed bibendum orci bibendum, tincidunt sem eu, sollicitudin ex. Praesent libero metus, sodales eget enim vel, maximus egestas magna. Nulla suscipit euismod tellus, sed hendrerit tortor volutpat sit amet. Integer tristique malesuada purus, at bibendum felis sodales a. Phasellus quis consectetur elit. Nullam eget nunc mattis, pretium magna vitae, molestie mi.
Nullam non quam luctus, mattis neque vel, ultrices dolor. Praesent turpis lacus, tempor sit amet tellus sit amet, pretium ultrices risus. In hac habitasse platea dictumst. Integer semper erat nibh, semper aliquet sapien mattis ac. Proin molestie quam sed felis blandit sollicitudin. Suspendisse varius libero ac eros rhoncus consectetur. Nunc convallis leo et dui pretium semper. Sed ultricies tincidunt nisi, at vulputate lorem vehicula tincidunt. Donec auctor lorem tempor enim elementum, id elementum elit gravida. Aliquam et neque et quam posuere placerat. Nullam consectetur semper mollis. Curabitur felis odio, imperdiet id ligula sed, pharetra cursus libero. Maecenas sit amet ante arcu. Morbi et velit.