AWSにおけるFoundation Modelのトレーニングと推論のための基盤要素
- AIモデルの学習・推論に必要なAWSインフラの構成を解説
- GPU・高速ネットワーク・分散ストレージの3つが主要な基盤
- 大規模モデル開発の設計判断やボトルネック特定に活用できる
MachinaCheck: AMD MI300X上でマルチエージェントCNC製造可能性システムを構築する
- CNCの製造可否をSTEPファイルから30秒で自動判定するAIシステムを開発
- 機密データ保護のため、AIをAMD MI300X上でオンプレミス完全動作させた
- 工具在庫確認や製造レポート生成を自動化し、管理者の作業時間を大幅削減できる
"OncoAgent: プライバシーを保護する腫瘍学臨床意思決定支援のためのデュアルティア・マルチエージェントフレームワーク"
- がん診療向けのオープンソースAI意思決定支援システムを開発
- 患者データをクラウドに送らず、病院内サーバーのみで動作できる
- 医師がハルシネーションリスクを抑えたAI推薦を安全に活用できる
CyberSecQwen-4B: なぜ防御的サイバーセキュリティには小規模で特化した、ローカル実行可能なモデルが必要なのか
- セキュリティ専用の小型AI「CyberSecQwen-4B」を開発・公開した
- 8Bモデルの半分のサイズで同等以上の精度を達成した
- 12GB以上のGPUでローカル実行でき、機密データを外部に送らずに使える
EMO: 創発的モジュール性のための Mixture of Experts 事前学習
- データから自動でモジュール構造が生まれるMoEモデル「EMO」を公開
- 全体の12.5%の専門家モジュールだけで、ほぼ同等の性能を発揮できる
- 特定タスク向けに必要な部分だけ使い、メモリと精度のバランスを最適化できる
MedQA: AMD ROCm上での臨床AIのファインチューニング — CUDAは不要
- AMD ROCm上でLoRAを使い医療QAモデルをファインチューニング
- 環境変数3つの設定だけでCUDAなしに動作し、学習時間は約5分
- AMDハードウェアでもAIモデル開発が可能と示す実用的な事例
vLLM V0からV1へ：RLにおける修正より先に正確性を
- vLLM V0からV1への移行で生じたログ確率のズレを4つの修正で解消
- 処理済みログ確率の設定・実行時デフォルト・重み更新・fp32出力層の修正が必要だった
- 推論バックエンドの正確性を先に確保してからRL目的関数の改善に着手すべき
Open ASR LeaderboardへのBenchmaxxer防止機能の追加
- 音声認識ベンチマークに非公開の高品質データセットを追加
- ベンチマーク対策としてデータを非公開にし、スコア操作を防止
- モデル評価の精度向上に活用でき、アクセント別の性能差も把握できる
AI evalは新たなコンピューティングのボトルネックになりつつある
- AIの評価コストが急騰し、1回の実行で最大数万ドルかかるケースも
- エージェント評価は静的ベンチマークより圧縮が難しく、信頼性確保でさらに費用増
- 評価ログの共有・再利用が、コスト削減に最も効果的な手段として提案されている
DeepInfra が Hugging Face Inference Providers に登場 🔥
- DeepInfraがHugging FaceのInference Providerとして追加された
- HFトークンだけで100以上のモデルをサーバーレスで利用できる
- PROユーザーは月$2のクレジットで追加料金なしに使える
Granite 4.1 LLMの構築方法
- IBMがGranite 4.1シリーズ（3B/8B/30B）をApache 2.0ライセンスで公開
- 8Bの密なモデルが32BのMoEモデルを性能で上回った
- transformersから即使用でき、ツール呼び出しにも対応
NVIDIA Nemotron 3 Nano Omniの紹介：ドキュメント、音声、動画エージェント向けの長文脈マルチモーダルインテリジェンス
- テキスト・画像・音声・動画を同時に処理できる新AIモデルを公開
- 文書解析や音声認識、動画理解、GUI操作など5種の用途に対応
- 他の同規模モデルより最大9倍の処理効率でHugging Faceから入手可能
物理情報を組み込んだNV-Raw2Insights-US AIによる適応型超音波イメージング
- NVIDIAとシーメンスが超音波画像向けAIモデルを開発
- 生の超音波センサーデータから患者ごとの音速マップをリアルタイム生成
- GitHubでモデルと学習データを公開し、開発に活用できる
スケーラブルなWebアプリをOpenAIのPrivacy Filterで構築する方法
- OpenAIのPII检出モデル「Privacy Filter」を使った3つのWebアプリを構築
- PDFの個人情報ハイライト、画像の自動黒塗り、テキストの匿名共有が実現できる
- `gradio.Server`でモデル処理とUI配信を1プロセスで構築できる
DeepSeek-V4: エージェントが実際に活用できる100万トークンのコンテキスト
- DeepSeek-V4がリリースされ、最大100万トークンのコンテキスト対応
- 独自の圧縮アテンション機構でKVキャッシュを従来比2%に削減
- AIエージェント開発の基盤モデルとして実用的な選択肢になった
Transformers.jsをChrome拡張機能で使用する方法
- Transformers.jsをChrome拡張機能で動かす設計方法を解説
- モデル処理をバックグラウンドに集約し、UIと役割を分離する
- 同じ構成をポップアップやタブ単位のAIにも応用できる
Jetson Orin Nano SuperでのGemma 4 VLAデモ
- Jetson Orin Nano Super上でGemma 4をローカル動作させるVLAデモを公開
- 音声で質問すると、必要に応じてモデルが自律的にWebカメラで撮影して回答
- コードとセットアップ手順が公開されており、手元で再現できる
AIとサイバーセキュリティの未来：なぜオープンであることが重要なのか
- AIがソフトウェアの脆弱性を自動で発見・修正できる時代に突入
- オープンソースの開発体制が、攻撃者と防御者の能力格差を縮める鍵になる
- 組織は公開ツールと半自律型AIを組み合わせた防御体制を構築できる
QIMMA قِمّة ⛰: 品質重視のアラビア語LLMリーダーボード
- アラビア語LLMの評価品質を検証するリーダーボード「QIMMA」を公開
- 評価前にベンチマークの品質を検証し、誤答や文化的偏りのあるデータを除外した
- アラビア語モデルの実力を正確に比較したい研究者や開発者に活用できる
合成ペルソナを使って韓国のAIエージェントを実際の人口統計に基づかせる方法
- 韓国の人口統計に基づく600万件の合成ペルソナデータセットを公開
- ペルソナをシステムプロンプトに組み込むと、地域・職業・敬語表現を反映した応答が可能
- 約20分でAPIを使い、韓国語対応AIエージェントを構築できる