Especialista en pruebas de seguridad para IA
Clera busca un/a especialista en pruebas de seguridad para unirse a su red de expertos y evaluar la seguridad de modelos de IA, identificando fallos y mejorando su rendimiento.
Sobre el puesto
Únete a una red de expertos que apoya proyectos de evaluación de modelos de IA como probador/a de seguridad. Identificarás y documentarás formas en que los sistemas de IA pueden fallar, ayudando a mejorar la seguridad de los modelos en proyectos adaptados a tu experiencia.
Qué harás
- Escribir prompts y conversaciones de múltiples turnos para probar si los modelos siguen las directrices de seguridad.
- Intentar técnicas de jailbreak conocidas y novedosas, y registrar qué enfoques tienen éxito o fallan.
- Utilizar instrucciones ocultas en documentos y salidas de herramientas para probar vulnerabilidades de inyección de prompts.
- Evaluar si los modelos que utilizan herramientas como código, navegadores o correo electrónico pueden ser manipulados para realizar acciones perjudiciales.
- Comparar respuestas entre grupos demográficos, nombres e idiomas para identificar posibles sesgos.
- Revisar las respuestas de los modelos frente a políticas de seguridad escritas y marcar violaciones.
- Etiquetar contenido como seguro o inseguro según las directrices del proyecto.
Qué buscan
- 0 a 5 años de experiencia profesional; no se requiere experiencia previa en datos de IA.
- Experiencia en pruebas de seguridad, CTFs, trust and safety, moderación de contenido, análisis de políticas, investigación de equidad o sesgos, aprendizaje automático adversarial, control de calidad, o un dominio relevante en ciberseguridad, biología o química.
- Experiencia probando software, sistemas o modelos intentando romperlos y documentando pasos y resultados.
- Experiencia aplicando políticas o directrices escritas para juzgar o etiquetar contenido o comportamiento.
- Sólido dominio del inglés escrito, hábitos de documentación cuidadosos y la capacidad de trabajar con contenido sensible bajo directrices estructuradas.
Se valora
- Familiaridad con jailbreaks de modelos de lenguaje, inyección de prompts o red teaming.
- Familiaridad con Burp Suite, Garak, PyRIT, herramientas similares o el OWASP LLM Top 10.
Qué ofrecen
La compensación es de 30 a 60 USD por hora, dependiendo del proyecto, campo y experiencia. El pago se basa en las horas trabajadas.
Sobre la empresa
Únete a una red de expertos que apoya proyectos de evaluación de modelos de IA.
Cómo postularte
El trabajo es completamente remoto.
Oferta publicada originalmente en Himalayas. La empresa recibe las candidaturas en su web; Nexempleo solo la difunde.