【Hugging Face】Tokenを使ってLLMを実行する

HuggingFaceのモデルを利用して、LLMプログラムをPythonで書きます。

JupyterNoteBookをあらかじめインストールして立ち上げてください。

HuggingFaceのアカウントを作成して、設定からTokenを作成しておいてください。

次をインストールしてください。

 !pip install langchain==0.1.4

 !pip install huggingface-hub==0.20.3

 !pip install ipywidgets

Pythonのosモジュールをインポートします。

 import os

HuggingFaceで作成したトークンを” “の間に書いてください。

 os.environ[“HUGGINGFACEHUB_API_TOKEN”] = “hf_ご自身のトークン”

importします。

from langchain.llms import HuggingFaceHub

HuggingFaceには、たくさんのモデルがあります。
今回はflan-t5というモデルを利用します。

 llm = HuggingFaceHub(repo_id = “google/flan-t5-large”)

質問を記述します。

our_query = “where is the capital of Japan?”

アウトプットを設定します。

completion = llm.invoke(our_query)

プリント文で表示させます。

 print(completion)

Tokyoと表示されれば成功です。

お疲れ様でした。