法人向けAI業務アシスタントSaaS

社内ナレッジ、業務ツール、モデル設定をワークスペース単位で管理し、部署ごとの業務アシスタントを運用できるマルチテナント基盤。

課題

社内ナレッジの検索や定型業務の実行が部署ごとに分かれており、利用者ごとに必要な情報やツールへたどり着くまでの手間が大きかった。 企業利用に耐える認証、テナント分離、運用監視を前提に、業務ごとのアシスタントを設定できる基盤が求められていた。

ソリューション

クリーンアーキテクチャに沿ってバックエンドを整理し、GCP上に社内向けの実行環境を構築。 エージェント実行、ナレッジ検索、コード実行サンドボックス、モデル切替、ワークスペース単位の権限制御を分けて実装した。

成果

フロントエンド、バックエンド、インフラを含む企業向けフルスタック基盤を構築し、部署ごとの業務アシスタントを運用できる状態にした。

チーム

1 member, 5 months

設計・実装・インフラ構築・運用

役割

プロダクト設計、実装、インフラ、運用設計まで担当。

フロントエンド(Next.js)、バックエンド(FastAPI)、インフラ(Terraform/GCP)をまとめて担当。

技術スタック

FrontendNext.js / TypeScript / shadcn/ui / Framer Motion
BackendPython / FastAPI / SQLAlchemy
LLMPydanticAI / Google ADK / Gemini / OpenAI / Anthropic
RAGLlamaIndex / pgvector
DatabaseGCP / Cloud SQL
AuthBetter Auth / Google OAuth / Microsoft OAuth
InfrastructureGoogle Cloud (Cloud Run, CloudSQL, VPC, Cloud Load Balancer, Secret Manager) / Terraform
CI/CDGitHub Actions / Workload Identity Federation

主要機能

01

SSEによるストリーミングチャット: 応答生成、ツール実行、エラーなどをイベント単位で表示

02

マルチモデル対応: OpenAI / Anthropic / Gemini を統一インターフェースで切替可能

03

アシスタント設定画面: システムプロンプト、利用ツール、モデルを管理画面から変更

04

ナレッジベース: ドキュメントをベクトル化し、回答時に関連情報を参照

05

RestrictedPythonによるコードサンドボックス: 安全なユーザーコード実行環境

06

マルチテナント: workspace_idによる全テーブルフィルタリングでテナント横断アクセスを構造的に防止

注力した点

クリーンアーキテクチャ

domain → application → infrastructure → api の依存方向を統一し、LLMプロバイダの切替がインフラ層の変更だけで済む構成にしました。

社内利用を前提にした構成

Backend を内部トラフィックのみに制限し、OIDC + ユーザートークンの二重認証、VPCによるDB分離、Secret Managerによるシークレット管理を実装。

コスト調整

Cloud Runスケールトゥゼロ・環境別リソース分離により、開発環境コストを本番の2-5%に削減。Terraformで全インフラをコード管理。