オンラインではなく「ローカル環境で動作するLLM(大規模言語モデル)」の通称。「オープンLLM」、「無償LLM」など定義や呼称には揺らぎがあるが、AzureやChatGPTのようなオンラインAPIでの利用と異なり、オープンに公開されている（もしくは独自にファインチューニングなどで構築した）モデルを利用して構築する。利点としては、常時インターネットに接続する必要がない点、ChatGPTにおけるAPI費用のような運用コストが必要ない点、速度や性能についてのチューニングが可能な点、他のユーザの利用状況に左右されない点、社内向けサービスなどの場合、情報漏洩などのセキュリティを保ちやすい点などがある。

定義・ 歴史・経緯

AzureやChatGPTのようなオンラインAPIでの利用と異なり、オープンに公開されている（もしくは独自にファインチューニングなどで構築した）モデルを利用して構築する環境のこと。多くはTransformerを使っている。「オープンLLM」、「無償LLM」など定義や呼称には揺らぎがある。
利点としては、常時インターネットに接続する必要がない点、ChatGPTにおけるAPI費用のような運用コストが必要ない点、速度や性能についてのチューニングが可能な点、他のユーザの利用状況に左右されない点、社内向けサービスなどの場合、情報漏洩などのセキュリティを保ちやすい点などがある。

歴史としては Googleの研究者によって 2018年10月に提案された言語モデルBERT（Bidirectional Encoder Representations from Transformers）が最も古い。

リスト
https://en.wikipedia.org/wiki/Large_language_model#List

略称等

LLM

関連用語

#LLM #ローカルLLM #LocalLLM #無償LLM #大規模言語モデル

関連記事

Wikipedia

関連ブログ等

• 無償LLM 日本語能力ベンチマークまとめ(23/11/15)

  • 2023年10月31日 15:45

  • shi3z

  • https://note.com/shi3zblog/n/n6b2ac5874021

• local LLMをChatGPT API互換サーバとして使う方法まとめ(2023/10版)

  • 投稿日 2023年10月27日

  • @takaaki_inada(Takaaki Inada)

  • https://qiita.com/takaaki_inada/items/a918ca6984e832bc9741

• MacでLocalでLLMを走らせるならLM Studioが楽。

  • 投稿日 2023年11月01日

  • @ponnhide(ponn chun)

  • https://qiita.com/ponnhide/items/b46a95228d0b832f1770

• ローカルで動く日本語対応LLMについて調べてみる①(ChatGPT部, 大城)

  • 2023年11月17日 15:21

  • ChatGPT部 Produced by NOB DATA

  • https://note.com/chatgpt_nobdata/n/n009402bcb5a0

• 【令和最新版】何もわからない人向けのローカル LLM 入門

  • 2023/11/23に公開

  • Sald Ra

  • https://zenn.dev/saldra/articles/201dd9e7d8c743

更新履歴

・2023/11/24 初稿

https://en.wikipedia.org/wiki/Large_language_model#/media/File:Neural_network_with_dark_background.png

#AI用語集