オープンウェイトモデルとは

オープンウェイトモデルは、学習済みの重み（パラメータ）が公開されていて、誰でも入手して自分の環境で動かせるモデルです。自社のサーバーやクラウド、性能の高いパソコンなどで動かせます。

「オープンソース」と呼ばれることもありますが、重みが公開されていても、学習に使ったデータや学習の手順までは公開されていないことが多くあります。そのため、区別して「オープンウェイト」と呼ぶことが増えています。使ってよい範囲は、モデルごとのライセンスで決まります。

実務での利点は、データを外部のサービスに送らずに使える点です。機密情報を扱う業務や、通信できない環境でも利用できます。PEFT などで自社用に調整したり、量子化して軽くしたりと、手を加えやすいのも特徴です。

一方で、動かすための計算機の用意、性能の検証、セキュリティ対策、更新への追随は自社の責任になります。高性能なモデルほど大きな計算資源が必要です。クラウドの API と比べ、費用・性能・運用の手間を総合して選びます。

具体例

機密文書を外に出さずに要約する

研究開発部門では、未発表の技術資料を外部のサービスに送れないという制約がありました。オープンウェイトモデルを社内のサーバーで動かし、資料の要約と検索に使っています。導入前にライセンスで商用利用ができることを確認し、要約の質をサンプルで評価しました。

API と使い分ける

日常の問い合わせ対応はクラウドの API を使い、個人情報を含む書類の処理だけを社内で動かすオープンウェイトモデルに任せる構成にしました。すべてを自社運用にすると計算機と保守の負担が大きいため、データの性質で振り分けています。どちらに振り分けるかの基準は、社内のデータ分類の規程にそろえて文書にしておきます。