Apple Intelligence:Apple Found...の画像はこちら >>

Apple Foundation Modelsのトークン数

Appleが、デベロッパー向けドキュメント「Generating content and performing tasks with Foundation Models」の中で、コンテキストウィンドウサイズは、モデルがセッションインスタンスで処理できるデータ量の制限で、トークンとはモデルが処理するテキストの単位であり、システムモデルは最大4,096トークンまで対応します。と説明しています。



英語、スペイン語、ドイツ語などの言語では1トークンが3~4文字に相当し、日本語、中国語、韓国語などの言語では1文字ごとに1トークンとなります。

サードパーティアプリがApple Foundation Modelsを使用する場合、現時点ではトークン使用状況をAPIで取得出来ないため工夫が必要です。

編集部おすすめ