top of page

1
データ収集・モニタリング
-
Tracing: ユーザ利用データ (IN/OUT)の取得と可視化
-
Dataset: リアルタイムデータを評価用素材として管理
-
Dashboard: 利用状況、コスト、レイテンシの把握
2
評価・分析
-
Human Annotation: 業務エキスパートの分析・分析
-
LLM as a Judge: LLMによる自動評価
-
Analysis: 問題発生時などにおける原因の特定
3
修正・調整・実験リリース
-
プロンプト管理: プロンプトのコードとの分離、更新
-
各種パラメータの管理:モデル、メタデータ etc
-
適用前の事前テスト:Datasetを利用したと評価
4
適用と確認 〜 改善サイクル
-
A/B テストによるリリース
-
リリース管理とその後の継続的なモニタリング
GenAIOps - 生成 AI オブザーバビリティを Amazon Bedrock と Langfuse で実現
2025年5月15日(木)14:00~17:30(開場 13:30)
AWS Startup Loft 東京

bottom of page