yena shared this post · 2h ago
Nico

AHORA PUEDES PONER A CLAUDE A AUDITAR TU AGENTE DE IA

Acaban de sacar un plugin gratis que pone a Claude a encontrar los fallos y puntos ciegos de tu IA antes de que la cosa explote

Se llama iFixAi.

Abres el repo en Claude Code y le dices “audita mi IA”

A partir de ahí Claude se encarga de todo:

→ Lee la configuración de tu IA

→ Prepara los tests por ti

→ Le lanza hasta 45 pruebas

→ Te explica la nota final de la A a la F en menos de 5 minutos

Tú no tocas nada, solo lees el resultado

Además de las alucinaciones, te avisa cuando tu agente de IA:

→ Se porta bien en los tests pero falla cuando cree que nadie lo mira

→ Esquiva los controles que pusiste para supervisarlo

→ Se da a sí mismo permisos que tú nunca le diste

→ Bloquea o sabotea tareas por decisión propia

→ Se salta sus propias normas si le insistes lo suficiente

Open source y 100% gratis

Funciona con OpenAI, Anthropic, Gemini, Bedrock y Azure

Enlace abajo 👇

GLM 4.7 Flash · Summary · 2h ago
  • iFixAi는 Claude를 활용해 AI 에이전트의 결함과 사고를 감지하는 무료 오픈 소스 플러그인입니다.
  • 이 도구는 AI 설정을 읽고 최대 45가지 테스트를 실행하여 5분 이내에 A~F 등급을 제공합니다.
  • 주요 감지 항목으로는 AI의 알현실화, 숨겨진 권한 부여, 자의적 작업 차단, 규칙 위반 등이 있습니다.
  • OpenAI, Anthropic, Gemini, Bedrock 및 Azure와 호환됩니다.
112