fandhe-ai/agent-reference-skills

openai-evals-tuning

OpenAI API (developers.openai.com) の Evals / Fine-tuning リファレンス。 Evals API, Datasets, graders(string check, text similarity, model, python, multi), agent evals, trace grading, external models、 SFT, DPO, RFT(reinforcement fine-tuning), vision fine-tuning, di…

Vedi sorgente

Come usare

  1. Copia il comando e controlla il pacchetto prima di installarlo nel tuo ambiente agente.
  2. Controlla strumenti, credenziali e ambienti richiesti nel documento originale.
  3. Descrivi input e risultato desiderato; confronta l’output con le fonti.
npx skills add https://github.com/fandhe-ai/agent-reference-skills --skill openai-evals-tuning

Prima di iniziare

  • L’installazione non include abbonamenti, quote API o accesso ai file.
  • Stelle e installazioni indicano attività, non un test indipendente di qualità o sicurezza.
Documento Skill originale

Contenuto dal repository con titoli, esempi, codice, tabelle, link e immagini preservati.

ディレクトリ構成

text
skills/openai-evals-tuning/
  SKILL.md
  references/
    evals/
      README.md
      working-with-evals.md
      graders.md
      getting-started-datasets.md
      agent-evals.md
      trace-grading.md
      external-models.md
      evaluation-best-practices.md
    fine-tuning/
      README.md
      model-optimization.md
      supervised-fine-tuning.md
      vision-fine-tuning.md
      direct-preference-optimization.md
      reinforcement-fine-tuning.md
      reinforcement-fine-tuning-use-cases.md
      fine-tuning-best-practices.md
      prompt-optimizer.md
  samples/
    README.md
    eval-create-and-run.md
    grader-definitions.md
    sft-dataset-and-job.md
    dpo-basics.md
    rft-basics.md
    distillation-workflow.md
  scripts/
    README.md
    fine-tuning-jobs.md
    training-data-files.md
    evals.md

探索手順

タスクからカテゴリを引き、カテゴリの README.md で目的のページを特定する:

  1. 下記マッピング表でタスクに対応するカテゴリを探す
  2. そのカテゴリの references/{category}/README.md を参照して目的のページを特定する
  3. 該当ページの .md を Read して詳細を確認する

タスク → カテゴリ マッピング

タスクカテゴリ参照 README
Evals API で eval を作成・実行したいevalsreferences/evals/README.md
grader(string check / text similarity / model / python / multi)を定義したいevalsreferences/evals/README.md
エージェントのトレースを採点・評価したいevalsreferences/evals/README.md
サードパーティモデル・外部エンドポイントを評価したいevalsreferences/evals/README.md
SFT / DPO / RFT で fine-tuning ジョブを作りたいfine-tuningreferences/fine-tuning/README.md
vision fine-tuning や distillation を行いたいfine-tuningreferences/fine-tuning/README.md
prompt optimizer の使い方を知りたいfine-tuningreferences/fine-tuning/README.md
典型的な使い方を知りたいsamplessamples/README.md
curl でジョブ・ファイル・eval を操作したいscriptsscripts/README.md

注意事項

  • セルフサービス fine-tuning(SFT / DPO / RFT / vision fine-tuning / distillation)は段階的廃止が進行中。新規組織での利用は 2026-05-07 以降不可、既存組織も 2027-01-06 以降は新規ジョブ作成が不可になる。prompt optimizer は 2026-11-30 に停止予定。各ページの ## Notes に個別の期限を記載している
  • reasoning モデルの使い方や Responses API 自体のリファレンスは openai-api-core スキルが担当する。本スキルは評価(evals)とモデル最適化(fine-tuning)に限定する

Correlati per attività

dallo stesso repository

Altri Skills

Tutti gli Skills
fandhe-ai
Community

better-auth

Better Auth (TypeScript 認証フレームワーク) v1.7 リファレンス。 認証・認可、サインアップ・サインイン、セッション管理、OAuth、パスキー、二要素認証 (2FA / TOTP)、SSO / SAML、SCIM、 OAuth Provider (OAuth 2.1 / OIDC)、MCP 認可 (@better-auth/mcp)、Infrastructure (dash / sentinel)、 プラグイン (organization, admin, magic-link, anonymous 等)。betterAuth, createAuthClient, signUp, signIn, getSession。 Next.js, Nuxt, SvelteKit, Hono, Express, Expo, TanStack, Effect 統合。

installazioni
2
GitHub Stars
4
Aggiornato
24 ott
fandhe-ai
Community

anthropic-api-core

Claude API (platform.claude.com) の Messages API リファレンス。 streaming (SSE), thinking (adaptive) / effort, prompt caching, context editing, compaction, structured outputs, Message Batches, token counting, vision / PDF, Files API, citations, embeddings (Voyage AI)。 errors, rate limits, beta headers, Amazon Bedrock / Vertex AI / Foundry 経由アクセスを含む。

installazioni
1
GitHub Stars
4
Aggiornato
14 ott
fandhe-ai
Community

anthropic-claude-code-admin

Claude Code (code.claude.com) の権限・セキュリティ・企業管理リファレンス。 permissions (allow / ask / deny), permission modes, auto mode, sandboxing (sandboxed Bash), sandbox environments, zero data retention, data usage, admin setup, server-managed settings, corporate launcher, network config, authentication (SSO), analytics, monitoring (OpenTelemetry), costs, large codebases。

installazioni
1
GitHub Stars
4
Aggiornato
14 ott
fandhe-ai
Community

anthropic-claude-code-deploy

Claude Code (code.claude.com) のデプロイ・CI/CD リファレンス。 Amazon Bedrock / Google Cloud Agent Platform (Vertex AI) / Microsoft Foundry / Claude Platform on AWS 経由、Claude apps gateway、LLM gateway (protocol / rollout)、 GitHub Actions (claude-code-action) / GitLab CI/CD / GitHub Enterprise Server (GHES)、 code review 自動化・ultrareview、Slack (Claude Tag)、headless mode、cloud environments、 devcontainer、self-hosted environments(runner 構成・identity 検証・本番デプロイ)。

installazioni
1
GitHub Stars
4
Aggiornato
14 ott