Cost vs. context size by model | Prompt / input
Cost vs. context size by model | Completion / output
Cost of an API call over time | “showcase models”
To simplify the comparison over time, this chart is based on the cost of an API call: a prompt (input) of 250 tokens (about 180 words) and completion (output) of 650 tokens (about 480 words). See below to visualise what it represents.
The exchange rate EUR-USD is calculated on date the data were collected.
Google APIs use characters rather than tokens. For this comparison, the conversion applied is 4 characters to 1 token.
The best model from each provider (showcase model) is used as a reference. As this is the best model, the version can change. For example, before November 2023, GPT-3.5 was used, which was then replaced by GPT-4 which explains the increase in cost in this case.
Prompt (input) example – 250 tokens (conversion 4 characters = 1 token):
Lorem ipsum dolor sit amet, consectetur adipiscing elit. Donec porttitor lorem elit, vulputate vehicula felis suscipit in. Nulla rhoncus purus a vehicula efficitur. Curabitur euismod, nibh et dictum luctus, turpis lectus consequat turpis, condimentum ornare massa eros sit amet ex. Nulla facilisi. Aliquam pretium odio id ex fermentum dictum. Pellentesque habitant morbi tristique senectus et netus et malesuada fames ac turpis egestas. Mauris id orci rhoncus, consequat nisi et, fermentum augue. In eleifend sapien a ipsum iaculis, sit amet blandit sem scelerisque.
Ut tincidunt massa a est consectetur fringilla. Morbi tempor pellentesque felis, non iaculis ante. Duis aliquet congue neque et ultrices. Maecenas at varius justo. Donec accumsan, odio vel venenatis porta, risus diam porttitor enim, non varius mi sem a tellus. Sed interdum imperdiet dapibus. Integer semper ligula eget tellus rhoncus pellentesque. Mauris faucibus mauris quis lectus rutrum rhoncus. Phasellus vitae condimentum nulla.
Completion (output) example – 650 tokens (conversion 4 characters = 1 token):
Lorem ipsum dolor sit amet, consectetur adipiscing elit. Maecenas ultricies mattis sollicitudin. Pellentesque suscipit massa gravida, egestas mauris tempor, fermentum libero. Nulla facilisi. Proin eu erat urna. Nullam sed justo congue, laoreet odio sit amet, varius velit. Nulla sem nunc, semper sed pretium vel, ornare vitae sapien. Suspendisse finibus at erat ut congue. Cras porta quis nunc in dapibus. Pellentesque efficitur dui ornare dolor bibendum, sed dictum augue gravida. Vestibulum rutrum id augue vitae congue. Phasellus sollicitudin pellentesque tincidunt. Suspendisse luctus feugiat est ac faucibus. Donec nisi nisl, scelerisque eget dolor vitae, molestie ultrices lorem.
Cras consequat velit non nibh vulputate sodales. Ut fringilla quam sit amet gravida viverra. Quisque et sollicitudin orci. Integer eget neque arcu. Maecenas nec elit fringilla, euismod ligula non, feugiat augue. Ut maximus rhoncus consectetur. Vestibulum ante ipsum primis in faucibus orci luctus et ultrices posuere cubilia curae; Nullam id purus aliquet, pretium ante imperdiet, consectetur tortor. Vivamus eu leo id diam accumsan vestibulum tristique ac felis. Mauris leo orci, sagittis nec lorem in, semper suscipit justo.
In quis mollis ipsum. Aliquam varius vitae turpis non bibendum. Duis laoreet dolor velit. Cras dapibus efficitur lacus, ut facilisis mi porta id. Integer eleifend, eros et tempor luctus, velit turpis ultricies lacus, laoreet dignissim sapien odio quis nulla. Maecenas quis ultricies enim. Aliquam sit amet egestas augue. Sed bibendum orci bibendum, tincidunt sem eu, sollicitudin ex. Praesent libero metus, sodales eget enim vel, maximus egestas magna. Nulla suscipit euismod tellus, sed hendrerit tortor volutpat sit amet. Integer tristique malesuada purus, at bibendum felis sodales a. Phasellus quis consectetur elit. Nullam eget nunc mattis, pretium magna vitae, molestie mi.
Nullam non quam luctus, mattis neque vel, ultrices dolor. Praesent turpis lacus, tempor sit amet tellus sit amet, pretium ultrices risus. In hac habitasse platea dictumst. Integer semper erat nibh, semper aliquet sapien mattis ac. Proin molestie quam sed felis blandit sollicitudin. Suspendisse varius libero ac eros rhoncus consectetur. Nunc convallis leo et dui pretium semper. Sed ultricies tincidunt nisi, at vulputate lorem vehicula tincidunt. Donec auctor lorem tempor enim elementum, id elementum elit gravida. Aliquam et neque et quam posuere placerat. Nullam consectetur semper mollis. Curabitur felis odio, imperdiet id ligula sed, pharetra cursus libero. Maecenas sit amet ante arcu. Morbi et velit.