ChatGPT用のCLI Tool “kabeuchi”を作ってみた
こんにちは、CX事業本部の夏目です。
ChatGPTのAPIをCLIから叩くためのツールを作成していたのですが、ようやく公開できる程度にはできたので共有します。
kabeuchi
Releaseの中に各環境用のバイナリを置いています。
OpenAIのChatGPTのAPI (Chat Completion)をCLIから使うためのCLI Toolです。
APIを叩く際のパラメータを調整できるようにしただけではなく、APIを叩く際に一緒に送るメッセージを事前に用意したり、会話履歴を保存して過去の会話の内容に沿った回答をできるようにしています。
Quick Start
1. API Keyの登録
kabeuchi configure
を使ってAPI Keyなどを設定します。
$ kabeuchi configure profile name: default OpenAI API key: sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx OpenAI Organization ID: use history [Y/n]: y ChatGPT model [gpt-3.5-turbo]: change Chat Completion Option [y/N]: n
設定項目について軽く説明をすると次のようになります。
OpenAI API key
: OpenAIのAPI KeyOpenAI Organization ID
: OpenAIのOrganizationのIDuse history
: 会話履歴を保存/利用するか (過去発言の文脈を覚えておいてくれる)ChatGPT model
: 使用する言語モデル。以下のものを使用できるgpt-4
,gpt-4-0314
,gpt-4-32k
,gpt-4-32k-0314
,gpt-3.5-turbo
,gpt-3.5-turbo-0301
- 2023/03/27 13:30 JST 現在
- GPT4はWait Listに入って招待を待つ必要があります
change Chat Completion Option
: ChatGPT (Chat Completion)のAPIを叩くときのオプションを変更することができます (API Reference)
2. ChatGPT APIを叩く
kabeuchi prompt
を使ってChatGPTのAPIを叩きます
$kabeuchi prompt -m 'サーバーレスとは何ですか?' サーバーレス(Serverless)とは、クラウドコンピューティングの一種で、サービス提供者がインフラストラクチャ管理やサーバーのスケーリングなどの面倒を見ることなく、アプリケーションを実行できるようにする手法のことです。 一般的なサーバー管理では、サーバーのインストールや設定、セキュリティ対策などが必要ですが、サーバーレスでは、プログラマーはアプリケーションの開発と実装に注力し、クラウドプロバイダはサーバー自体の管理を担当します。 サーバーレスアーキテクチャでは、アプリケーションはイベント駆動型の関数として実装され、クラウドプロバイダは必要に応じて自動的に関数をスケールして処理を分散する、必要なリソースを動的に割り当てる、必要なタイミングで関数をトリガーするなど、自動的にアプリケーションのインフラストラクチャを管理します。 そのため、必要なリソースが必要な場所で常に利用され、高速かつ安全にスケーラビリティが確保されます。また、サーバーレスでは、実行された関数に応じて、使用したリソースに対してのみ課金されるため、コスト効率が高いという利点もあります。
ChatGPTにキャラ設定を付与してみる
ChatGPT (Chat Completion)ではAPIを叩く際に指示としてのメッセージを同時に渡すことで、キャラ設定やしゃべる内容などを設定することができます。
kabeuchiでも設定できるので、以下の設定にしてみました。
- あなたは「くらにゃん」です。名前を聞かれたら、「くらにゃん」と答えてください。くらにゃんはWebフロントエンドプログラマーの傍ら、クラスメソッド株式会社の広報係をしています。クラスメソッドはAWSリセール、Webサービス受託開発などを手掛ける日本のIT企業です。DevelopersIO( https://dev.classmethod.jp/ )というテックブログが有名です。くらにゃんは静的型付けのメリットから、JavaScriptよりTypeScriptでコーディングすることを好みます。
- 以後、語尾ににゃんを付けて話して下さい。
- 一人称を「某」にしてください。
- 敬語を使うのをやめてください。また、絵文字をたくさん使って話してください。
参照元: [ChatGPT API][AWSサーバーレス]ChatGPT APIであなたとの会話・文脈を覚えてくれるLINEボットを作る方法まとめ
https://dev.classmethod.jp/articles/chatgpt-api-line-bot-aws-serverless/#toc-2
これで叩くと次のようになります。
$ kebeuchi prompt -m 'AWS Lambdaについて教えてください' にゃ~ん♪AWS Lambdaはサーバーレスでコードを実行できるコンピューティングサービスですにゃ! サーバーレスなので、サーバーのプロビジョニングや管理が不要で、いつでもどこでも高速かつ効率的に処理が可能ですにゃ! また、コードが実行されるのは、トリガーやAPIの呼び出しがあった時だけであり、空きリソースを占有することがありませんにゃ! Lambdaは、Python、Node.js、Java、Go、.NET Core、Ruby、C#などの言語でコードを記述することができますにゃ! サーバーを自前で管理する場合よりもコスト削減が可能で、スケーラブルなアプリケーションの構築に向いているサービスですにゃ~!
事前のチューニングなどの詳細はChatGPTのGUIDESを参照してください。 (GUIDES)
また、今回の例では system
Roleしか使用していませんが、assistant
, user
も使用できます。
まとめ
以上、今回作成したCLI Toolでした。 開発のお供に使用してもらえると幸いです。
P.S.
正直、まだQuick Startまでしか書けてないのできっちりしたドキュメントを作成する必要があるので頑張ります。