AI Evaluation Rubric Reviewer

Mercor

Encore 28 jours Annonce en anglais
Lieu
Télétravail · Burkina Faso, Botswana, Cameroun, Algérie, Burundi, Angola, Bénin, République centrafricaine, Cabo Verde, Djibouti, Comores, Tchad
Clôture
16 décembre 2026 (heure non précisée par la source)
Publiée le
16 novembre 2026
Contrat
Prestataire / freelance
Mode de travail
Télétravail
Salaire
40 – 75 USD par heure
Zone
Télétravail ouvert depuis l'Afrique
Comment candidater

Compte gratuit : « Candidater » prépare votre CV et votre lettre pour cette offre ; vous envoyez ensuite vous-même votre candidature. Vous pouvez aussi postuler directement depuis l'annonce d'origine.

En bref

Télétravail ouvert depuis : AF, AX, AL, Algérie, AS, AD, Angola, AI, AQ, AG, AR, AM, AW, AU, AT, AZ, BS, BH, BD, BB, BY, BE, BZ, Bénin, BM, BT, BO, BA, Botswana, BV, BR, IO, VG, BN, BG, Burkina Faso, Burundi, KH, Cameroun, CA, Cabo Verde, BQ, KY, République centrafricaine, Tchad, CL, CN, CX, CC, CO, Comores, CK, CR, HR, CU, CW, CY, CZ, DK, Djibouti

Description

The work

We are testing AI agents on realistic shopping and delivery tasks. You'll review AI-drafted tasks (prompt, grading rubric) along with model attempts, and decide whether each failure is fair:

- Was the information available?

- Does the rubric accurately grade what the prompt asked for?

- Would a valid answer have been marked wrong?

- Is the rubric structure correct per the guidelines?

Fix the criteria that aren't fair, flag the tasks that can't be saved, and write a short note on each call.

Must-haves

- Substantial experience writing or reviewing rubrics for LLM evals. Please list the projects in your application.

- Can read a long agent transcript and find where it went wrong.

- Precise writing, and you check the data instead of trusting the reference answer.

We consider all qualified applicants without regard to legally protected characteristics and provide reasonable accommodations upon request.

Contract and Payment Terms

  • You will be engaged as an independent contractor.

  • This is a fully remote role that can be completed on your own schedule.

  • Projects can be extended, shortened, or concluded early depending on needs and performance.

  • Your work at Mercor will not involve access to confidential or proprietary information from any employer, client, or institution.

  • Payments are weekly on Stripe or Wise based on services rendered.

  • Please note: We are unable to support H1-B or STEM OPT candidates at this time.

About Mercor

Mercor partners with leading AI labs and enterprises to train frontier models using human expertise. You will work on projects that focus on training and enhancing AI systems. You will be paid competitively, collaborate with leading researchers, and help shape the next generation of AI systems in your area of expertise.

Modalités de candidature

Voir l'annonce d'origine.

Connectez-vous pour ajouter cette offre à vos sélections, puis suivre votre candidature.

Provenance

vue sur le site d'origine le 17 novembre 2026 à 10:02 (heure de Paris) · lieu indiqué par la source : Non renseigné

Nous vérifions régulièrement que l'offre y est toujours publiée.

Informations non fournies par la source

durée, domaine, référence

Signaler un problème sur cette offre