crates.io · crates:tokenizers
tokenizers 有効
Fastest implementation of the most used tokenizers in AI.
| 最新の安定版 | 0.23.2 |
|---|---|
| 公開日 | 2026-09-03 08:49:28 UTC |
| インストール | cargo add tokenizers |
| 必要な Rust の最小バージョン (rust-version) | 指定なし |
| ライセンス | Apache-2.0 |
| 最新バージョンのセキュリティ勧告 | 既知のものなし |
| 最終確認 | 2026-10-09 15:20:24 UTC |
| 出典 | api.osv.dev, crates.io |
メンテナンス
| 活動状況 | 活発 |
|---|---|
| 最新の安定版 | 2026-09-03 08:49:28 UTC · 36 日前 |
| 直近 12 か月の安定版リリース数 | 3 |
| 公開済みバージョン数 | 42 |
公開日のみに基づく推定です。Issue やセキュリティ問題への対応時間は反映していません。
バージョン履歴
| バージョン | 公開日 |
|---|---|
0.23.2 | 2026-09-03 08:49:28 UTC |
0.23.1 | 2026-04-27 14:39:17 UTC |
0.22.2 | 2025-12-02 12:53:51 UTC |
0.22.1 | 2025-09-19 09:46:10 UTC |
0.22.0 | 2025-08-29 10:22:26 UTC |
0.21.4 | 2025-07-28 13:19:38 UTC |
0.21.2 | 2025-06-24 10:21:08 UTC |
0.21.1 | 2025-03-13 10:45:44 UTC |
0.21.0 | 2024-11-27 13:06:48 UTC |
0.20.4 | 2024-11-26 17:03:22 UTC |
0.20.3 | 2024-11-05 17:20:12 UTC |
0.20.2 | 2024-11-04 17:17:03 UTC |
0.20.1 | 2024-10-10 09:46:24 UTC |
0.20.0 | 2024-08-08 16:45:14 UTC |
0.19.1 | 2024-04-17 21:17:09 UTC |
0.19.0 | 2024-04-17 08:52:21 UTC |
0.15.2 | 2024-02-12 02:11:46 UTC |
0.15.1 | 2024-01-22 15:01:56 UTC |
0.15.0 | 2023-11-14 18:51:49 UTC |
0.14.1 | 2023-10-06 11:11:43 UTC |
全 38 バージョンのうち、新しい順に 20 件を表示しています。 JSON
このデータを AI エージェントに渡す
Vigia は無料の MCP サーバーです。コーディングエージェントがコードを書く前に、バージョン・破壊的変更・脆弱性を確認できます。登録も API キーも不要です。
claude mcp add --transport http vigia https://vigia.coredls.cloud/mcp
Cursor に追加VS Code に追加★ GitHub でスターを付ける
その他の MCP クライアント
{ "mcpServers": { "vigia": { "url": "https://vigia.coredls.cloud/mcp" } } }エージェント用スキル (SKILL.md):Vigia を使うタイミングをエージェントに伝えます · プルリクエスト用 GitHub Action
よくある質問
tokenizers の最新バージョンは?
tokenizers の最新の安定版は 0.23.2 で、2026-09-03 に公開されました。Vigia が 2026-10-09 に確認しました。
tokenizers の最新バージョンをインストールするには?
cargo add tokenizers を実行します。最新の安定版は 0.23.2 です(2026-10-09 に確認)。
tokenizers は非推奨ですか?
いいえ。tokenizers はレジストリで非推奨とはされていません。
tokenizers に必要な Rust のバージョンは?
tokenizers 0.23.2 は Rust のバージョン要件を宣言していません。
tokenizers 0.23.2 に既知の脆弱性はありますか?
Vigia が確認しているデータでは、tokenizers 0.23.2 に影響する既知のセキュリティ勧告はありません。
tokenizers は今もメンテナンスされていますか?
tokenizers は直近 12 か月で 3 件の安定版を公開しました。最新の公開は 36 日前です。活動状況:活発。
確認された変更
Vigia がこのパッケージの追跡を始めてから、まだ変更は確認されていません。
関連パッケージ
- monostate-impl
- inherent
- minijinja
- monostate
- crc16
- tabled_derive
- similar-asserts
- azure_core
- rustc-literal-escaper
- mac_address
- wry
- des
README 用バッジ
このパッケージの最新バージョン、メンテナンス状況、非推奨かどうかを表示できます。Markdown をコピーしてください:
[](https://vigia.coredls.cloud/crates/tokenizers) [](https://vigia.coredls.cloud/crates/tokenizers) [](https://vigia.coredls.cloud/crates/tokenizers)
エージェント向け
GET https://vigia.coredls.cloud/v1/packages/crates/tokenizers
GET https://vigia.coredls.cloud/v1/packages/crates/tokenizers/versions/{version}