Votre vie privée
Français

Lieux à contacter

'The perils of AI safety's insularity' — why outside contributions get ignored

Type
Public reporting channel
Lieu
International — N/A (commentary)
Dernière vérification
2026-09-22
Prochaine vérification
2027-03-21
Cette fiche est conservée comme référence. Elle n’est pas un point de contact actuel et n’apparaît ni dans les lieux à contacter ni dans les recommandations.
Pas encore traduit — affiché en anglais.

Comment les joindre

  • Submission page

    Responsible disclosure programme

    Information uniquement · 2026-09-22
    Destinataire
    'The perils of AI safety's insularity' — why outside contributions get ignored
    Qui peut l’utiliser
    Membres du public
    Ce qui est accepté
    Failles de modèles d'IA; Préjudices liés à l'IA; Risques systémiques liés à l'IA
    Information uniquement. Ce lien fournit des informations ou des preuves ; ce n'est pas un endroit où envoyer un message.Aucune action de contact n'est disponible pour cette fiche.

  • Homepage

    Homepage

    Information uniquement
    Destinataire
    'The perils of AI safety's insularity' — why outside contributions get ignored
    Qui peut l’utiliser
    Membres du public
    Ce qui est accepté
    Failles de modèles d'IA; Préjudices liés à l'IA; Risques systémiques liés à l'IA
    Information uniquement. Ce lien fournit des informations ou des preuves ; ce n'est pas un endroit où envoyer un message.Aucune action de contact n'est disponible pour cette fiche.

Ce qu'il fait

N/A

Évaluation franche

Include this in the playbook as the honest counterweight. It explains structurally why a good submission from an unaffiliated person often lands nowhere: the field's absorption mechanisms are social and network-based, not procedural. The practical implication is that formal mechanisms with published duties — select committee evidence, regulations.gov comments, regulatory complaints, a permanent AIID record — are more reliable for an outsider than trying to be heard inside the field, because they do not depend on already being known.

Comment déposer

N/A — read as diagnosis. Its claims: AI safety has built a parallel research universe outside academia that trades external scrutiny for speed; the network is geographically and financially concentrated (Berkeley/San Francisco, EA-aligned funders); researchers do not meaningfully engage with mainstream ML venues and consequently reinvent existing methods; funding shapes research direction more than consensus does; and there is a reported lower publication bar for optimistic than for critical claims about AI. It cites work arguing 'scheming' research risks repeating failures ape-language researchers made 50 years ago, and Dan Hendrycks calling mechanistic interpretability misguided.

Format

N/A

Calendrier

N/A

Ce qui se passe ensuite

N/A

Ce qu'il accepte

N/A

Ce qu'il n'accepte pas

N/A

Géré par

Transformer (news outlet; primary funder Open Philanthropy / Coefficient Giving)

Sources

Une erreur ?