Optuna v5 ロードマップ

Optuna v1.0のリリースから5年以上が経ち、Optunaの応用は機械学習のハイパーパラメータ最適化から材料探索と多様な広がりを見せています。結果として現在でも多くの機能拡張の要望が寄せられており、そのユースケースは増え続けています。

我々は、2026年夏頃にOptuna v5.0のリリースを計画しています。このロードマップではOptuna開発チームが今後どのようなことを優先して開発を行っていくのかを説明します。なお、実際の開発はこれまでのOptuna開発を踏襲し定期的にマイナーリリースを挟むこととし、実現した機能・サービス・プロダクトはその都度リリースしていくこととします。

このロードマップには三つの目的があります。

• 既存のOptunaユーザの方々に対して、どのようにOptunaの機能が強化され、また新しいユースケースに対応していくのかをお伝えする。
• まだOptunaを使ったことのない方々に対して、ブラックボックス最適化がどのような新しい可能性を秘めているのかをお伝えする。
• Optunaの開発コミュニティに参加する意思のある方々に対して、どのように開発に参加していくべきかのガイドラインを提示する。

実装された機能は都度リリースしていくので、ぜひ使ってみてフィードバックをGitHub issueで直接お寄せください。またこれから開発予定の機能はoptuna.orgにて紹介しています。v5.0ロードマップにご意見をお寄せになりたい方は、ぜひこちらのフォームをご記入ください。幾つかの開発テーマは具体化されておりWell-definedなタスクはGitHub issueにまとまっています。開発に参加したい方はそちらを参照の上、ぜひPull requestをお送りください。

Optuna v5.0の核

Optunaは、世の中にある様々なブラックボックス最適化問題を効率的に解き、簡単に分析する手段を提供するフレームワークとして開発されています。Optuna v5.0では、多様な広がりを見せるブラックボックス最適化技術の適用領域を大きく広げるとともに、これまで種々の事情でOptunaを利用してこなかったユーザ/高度な機能を使ってこなかったユーザにも利便性を提供し、また既存のコアなユーザの多様なユースケースをカバーすることを目指します。本ロードマップでは、以下の三つの観点に絞ってv5.0の開発計画を紹介します。

• 生成AIを用いてブラックボックス最適化の可能性を広げる
  • 我々は、生成AIのためのブラックボックス最適化ツールチェインを構築することと、生成AIによるブラックボックス最適化アルゴリズムを実装することの両面からアプローチします。
• Optunaをいつでも手軽に利用できるようにする
  • 既存のユーザ向けにセットアップの手間を極限まで削減した利用方法を提供するとともに、新たなユーザのために様々な環境・言語から利用可能な統一的なインターフェースを提供します。
• Optunaを継続的に発展させる
  • 既存機能の安定化・性能向上を実現するとともに、またOptunaではカバーされていない新たな問題を扱える仕組みを導入します。

スケジュール

以下はOptuna v5.0の開発スケジュールです。我々は2,3ヶ月ごとにマイナーリリースを継続し、v5.0の一部機能を公開していきます。

生成AIを用いてブラックボックス最適化の可能性を広げる

計画の概要

Optuna v5.0では、生成AIのための技術開発・生成AIを利用した技術開発の両面からブラックボックス最適化の可能性を広げることを計画しています。

このゴールを達成するための開発計画は例えば以下の2つの開発テーマを含みます。

• プロンプト最適化向けツールチェインの整備
• LLMエージェントシステム向けツールチェインの整備

開発テーマの詳細

プロンプト最適化向けツールチェインの整備

プロンプトエンジニアリングはLLMの性能を引き出すためには必須の作業であると知られています。これを自動化ないしは半自動化するプロンプト最適化は近年大きな注目を集めており、様々な研究開発・製品開発が行われています。一方でデファクトスタンダードと呼べるプロダクトは現時点では存在せず、我々はOptunaの強力なアルゴリズム・分析機能・実験管理機能を利用してこの問題にアプローチします。ブラックボックス最適化に限らずLLMを利用した開発・研究に幅広く役立つものになっていく予定です。

LLMエージェントシステム向けツールチェインの整備

LLMが独自にツールを選択・利用するエージェントシステムは近年大きな注目を集めており、プロダクト開発の新たなパラダイムを導く可能性があります。OSSとして開発が進められているModel Context Protocol (MCP)が一つのデファクトスタンダードとしての地位を確立しつつあり、我々はOptunaを利用するためのMCPサーバを提供すると共に、他のMCPサーバや典型的なMCPクライアントとの連携のためのガイドを提供することを検討しています。これによりユーザの方々もツールに習熟することなく有用な分析や問題に合わせた改善が可能となります。

開発アイテムの一覧

これらの開発テーマに紐づく開発アイテムは現在進行中・策定中のものも含めて以下のようになっています。

• プロンプト最適化向けツールチェインの整備
  • Optunaのインターフェースでプロンプトの候補を提案してくれる機能の開発
  • 直感的に利用できるユーザインターフェースの開発
  • プロンプトの評価を支援する機能の開発
• LLMエージェントシステム向けツールチェインの整備
  • Optunaを利用するMCPサーバの実装
  • 最適化履歴を元に結果を自動で分析・改善提案をしてくれるエージェントの開発
  • 他のMCPサーバや典型的なMCPクライアントとの連携方法のためのガイドライン整備

Optunaをいつでも手軽に利用できるようにする

計画の概要

Optuna v5.0では、これまでOptunaの設定が面倒な機能を使ってこなかったユーザにそうした機能を届けること、またOptuna自体を全く使ってこなかった普段プログラムを書かないユーザやPython以外のプログラミング言語を利用するユーザにOptunaを使ってもらうことに取り組みます。

このゴールを達成するための開発計画は例えば以下の開発テーマを含みます。

• リソースがシビアな環境でもOptunaを利用できるようにする
• 非Python環境でもOptunaを利用できるようにする

開発テーマの詳細

リソースがシビアな環境でもOptunaを利用できるようにする

Optuna自体は純粋にPythonで記述されたソフトウェアであり、十分に工夫された実装と慎重に選び抜かれた依存パッケージを持っていますが、Pythonの言語仕様の限界からソフトウェアがメモリ上に占めるサイズを現在から大きく減少させることは難しいことがわかっています。また、速度面でも長年にわたる高速化のための取り組みが続いてはいますが、Pythonである以上高速化には限界があります。そこで必要最小限の機能のみを抜き出したOptunaの再設計およびRustによる再実装を行って、これらの問題にアプローチすることを現在検討しています。こうしたRustを用いた高速かつ省メモリなOptuna実装は、組み込みでの利用や大量のトライアルが必要なユースケースでの利用を想定しています。

非Python環境でもOptunaを利用できるようにする

Optunaの利用には現在Python APIとCLIを提供していますが、普段プログラムを書かないユーザやPython以外のプログラミング言語を利用するユーザに利用してもらうには一定以上のハードルが存在すると考えられます。我々は全くプログラムを書かないユーザにもOptunaの有用性を届けるため、Google Spreadsheet上でOptunaを利用したブラックボックス最適化を実行できる仕組みや、自然言語で問題を記述することで自動的にブラックボックス最適化を実行・分析してくれる仕組みを提供することを検討しています。また、Rustで記述したOptunaの再実装をWASMにコンパイルすることで、Python以外の多言語対応を実現することを目指します。

開発アイテムの一覧

これらの開発テーマに紐づく開発アイテムは現在進行中・策定中のものも含めて以下のようになっています。

• リソースがシビアな環境でもOptunaを利用できるようにする
  • Optunaの再設計とRustによる再実装の試作
  • 特定のコンポーネントをRustによって再実装することにより得られる速度上の恩恵の検証
  • Optunaの部分的なRust実装の提供形態と運用保守体制の検討
• 非Python環境でもOptunaを利用できるようにする
  • Google Spreadsheetからブラックボックス最適化を実行できるテンプレートの試作
  • Rust実装をWASM化することによる多言語対応の実現

Optunaを継続的に発展させる

計画の概要

Optuna v5.0では、既存の多くのユーザに利用されている機能の安定化・性能向上を実現するとともに、Optunaではカバーされていない新たな問題を扱える仕組みを導入することを目指します。

このゴールには様々な種類の開発テーマが属しますが、大きく分けて以下の三つの枠組みに分けることができます。

• 多くのユーザにとってインパクトの大きな改善を実施する
• 特定のユースケースでインパクトの大きな改善を実施する
• より幅広い問題設定をカバーできる新たなアプローチを導入する

開発テーマの詳細

多くのユーザにとってインパクトの大きな改善を実施する

デフォルトのサンプラーの改善、また自動でアルゴリズムを切り替えることのできるAutoSamplerの強化、サンプラー選択の指針となるベンチマークの強化、さらにはOptunaの実験管理機能の大幅な強化を通して、多くのユーザのOptuna体験を大きく改善することを目指します。

特定のユースケースでインパクトの大きな改善を実施する

Optunaは多目的最適化問題や制約付き最適化問題にも対応しており、例えばニューラルアーキテクチャサーチや材料設計の特定の応用で頻繁に用いられています。そうした特定のユースケースに特化した改善を実施することは、非常に深いインパクトを生み出します。我々は評価回数の小さな場合に威力を発揮するガウス過程ベースの多目的最適化アルゴリズム、特定のパラメータ評価が実行不可能な場合や明示的な線形不等式で制約が与えられる場合の制約付き最適化アルゴリズムの実装を通してこの問題にアプローチします。

より幅広い問題設定をカバーできる新たなアプローチを導入する

Optunaが未だ扱えない問題設定の中には、近年ブラックボックス最適化分野で注目の集まりつつある最先端の研究分野も含まれます。そうした問題を扱える枠組みを扱えるようにすることは、最新の知見をコミュニティに広げることや優秀な新しいコントリビュータを巻き込むことにも繋がり得ます。我々は特にMulti-fidelity最適化やExploratory Landscape Analysis (ELA)といった新しい問題設定をOptunaでも扱えるよう取り組んでいくことを検討しています。

開発アイテムの一覧

これらの開発テーマに紐づく開発アイテムは現在進行中・策定中のものも含めて以下のようになっています。

• 多くのユーザにとってインパクトの大きな改善を実施する
  • デフォルトのサンプラーの様々な設定における改善
  • 自動アルゴリズム選択機能を持つAutoSamplerの多目的最適化・制約付き最適化向けの機能強化
• 特定のユースケースでインパクトの大きな改善を実施する
  • ガウス過程ベースの多目的最適化アルゴリズムの導入
  • 特定のパラメータの評価が実行不可能な場合を考慮した制約付き最適化のサポート
• より幅広い問題設定をカバーできる新たなアプローチを導入する
  • Multi-fidelity 最適化を扱える枠組みを導入する
  • ELAをサポートするサードパーティ製品とのインテグレーションの導入

おわりに

Optuna v5.0のロードマップでは我々がこれからどのように開発を進めていくのかを説明しました。三つの核として(1)生成AIを用いてブラックボックス最適化の可能性を広げること、(2)Optunaをいつでも手軽に利用できるようにすること、そして(3)Optunaを継続的に発展させることに取り組んでいきます。

実装された機能は都度リリースしていくので、ぜひ使ってみてフィードバックをGitHub issueで直接お寄せください。またこれから開発予定の機能はoptuna.orgにて紹介しています。v5.0ロードマップにご意見をお寄せになりたい方は、ぜひこちらのフォームをご記入ください。幾つかの開発テーマは具体化されておりWell-definedなタスクはGitHub issueにまとまっています。開発に参加したい方はそちらを参照の上、ぜひPull requestをお送りください。