Future Tech Blog
フューチャー技術ブログ

MLOps タグの記事

  • 15
    投稿
  • 11
    著者数
  • 422
    総シェア数
  • 122
    Twitter
  • 0
    Facebook
  • 146
    はてブ
  • 154
    Pocket

Kubernates✖️MLflow✖️GCPで簡単にAIモデル公開

機械学習モデルを本番環境で運用する際、スケーラビリティや管理のしやすさは重要です。MLflowのFastAPIによるデプロイは手軽ですが、大規模運用には不向きな場合があります。本記事では、MLflowで管理されたモデルを、Kubernetes上で動作する高機能なMLモデルサービング基盤KServeにデプロイする方法を解説します。

【MLOps】 Azure Data FactoryとAzure Purviewを使ってAI Searchに登録してみた

MLOpsを推進するためのツールとして、Azure Data FactoryとAzure Purviewについて検証していきます。

AWSのGenerative AI Use Cases JPを用いた生成AIサービスの構築検証

AWSを用いた生成AIアプリケーションの実装として、Generative AI Use Cases JP についての検証を行いました。

MLflow上でOptunaによって生成される大量のrunを整理する

MLflowはハイパーパラメータを自動調整するツールとしてともに広く使用されているツールです。MLflowとOptunaを同時に利用した際に、Optunaが複数回試行することによってMLflow上にrunが大量に生成され、MLflow上で試行結果が見づらくなります。

【LLMOps】LLMの実験管理にTruLens-Evalを使ってみた

LLMの実験管理ツール候補として、TruLens-Evalを検証しました。合わせて、LLMの実験管理についてまとめてみました。

LLM開発のためにMLOpsチームがやるべきこと

「LLM開発のためにMLOpsチームがやるべきこと」というテーマで、従来のMLOpsとの違い・ツール・構成例等について調査・整理しました。LLMとはLarge Launguage Model（大規模言語モデル）の略であり..

Technology Radar の機械学習関連技術を見てみる

IT業界に身を置いていると、今の技術トレンドが気になるときがありますよね。業界の潮流を把握する方法の1つとしてTechnology Radarという文書があるので、今回紹介します。

Vertex AI Model MonitoringとEvidently AIで運用中のモデル・データを監視する【Output Metrics編】

データ/モデル監視ツールであるVertex AI Model MonitoringとEvidently AIを利用して両者を様々な観点で検証していきます。

Vertex AI Model MonitoringとEvidently AIで運用中のモデル・データを監視する【Input Metrics編】

データ/モデル監視ツールであるVertex AI Model MonitoringとEvidently AIを利用し、両者を様々な観点で検証していきたいと思います。Vertex AIのAutoMLで作成した回帰モデルの監視を想定し、ユースケースを交えて両者をそれぞれ検証していきます。

MLシステムにおけるモデル・データの監視【概要編】

「モデル・データの監視」について、なぜ監視が必要なのか、監視するべき項目は何か、監視するにはどのようなツールがあるのかについてご紹介します。

Vertex AI PipelinesのTips

Vertex AI Pipelinesを利用してみて分かったTipsについて、いくつかピックアップしてまとめました。なお、コードは全てPython・Kubeflowを用いた場合を記載しています。Vertex AI Pipelinesとは、GCP上でMLパイプライン機能を提供するサービスです。サーバーレス方式でMLワークフローをオーケストレートします。

Future Tech Night #21 Google Cloud Vertex AIによるフルマネージドなMLOps導入

「Future Tech Night #21 Google Cloud: データエンジニア＋MLOps」に登壇させていただきましたので、その内容について触れていきたいと思います。

続・サーバーレス検索エンジン：巨大な静的ファイルを扱うケースについて考える

巨大な学習済みの機械学習モデルとか、検索用インデックスをデプロイする場合に、どうやってデプロイするか、というのは色々選択肢があります。以前、ちょびっとだけ「どうやってデプロイしましょうかね」というのを悩んだ時期があったのですが、今回、こんな方式が考えられるんじゃないか、というのを改めて調べてリストアップしてみました。

MLOpsことはじめ ～実験管理導入と学習基盤の構築～

2019年度入社の真鍋です。学生の頃よりクラウドやHadoop等、大規模分散システムの研究をしていました。その経験と私自身の希望もあり、SAIGでは主にインフラ担当として業務に取り組んでいます。今回は私がAI分野のインフラに触れ、MLOpsを知り、SAIG全体で利用する学習基盤を構築するまでに得た知見を、一部ではありますが共有させていただければと思い筆を取りました。

MLflowで実験管理入門

今回は、機械学習の実験管理入門をテーマにMLflowについてご紹介させていただきます。