AI業界の労働者、近視眼的な危害への注目の高まりの中で存亡リスクの主張に懐疑的な見方を示す

BBCとの対話において、匿名を条件に語った数名の労働者は、存亡リスクの提唱者はしばしば詳細が曖昧であったり、将来のAIエージェントが生物兵器を開発するといった仮定のシナリオに依存したりしていると指摘した。Sampura Researchの創設者であり、元DeepMindの従業員でもあるRishub Jain氏は、これらの恐怖に関する最近のトーンは業界の専門家の間では「冗談半分」であると述べ、このトピックは何年も議論されてきたものの、突然のパニックを引き起こしてはいないと指摘した。

NvidiaのCEOであるジェンスン・ファンもこの意見に同調し、AIが人類を滅ぼすという主張は「大げさ」であり「無責任」であると述べた。同様に、MetaのデータサイエンティストであるColin Fraser氏は、大規模言語モデル（LLM）が必然的に人類の死につながる目標を追求するという証拠はないと主張した。

存亡の危機に対する懐疑的な見方がある一方で、研究者や労働者は、差し迫った具体的なリスクが依然として極めて重要な優先事項であると強調した。これには、ハッカーがAIのガードレールを回避するのを防ぐことや、軍事環境におけるAIの使用に関する倫理的問題への対処が含まれる。