7x24시간 속보

골드만삭스 전략가 도미닉 윌슨과 조쉬 쉬프린은 9월 17일 팟캐스트에서 현재 시장이 미 연방준비제도(Fed)의 4차례 금리 인상을 너무 비관적으로 가격에 반영하고 있으며, 이번 금리 인상 사이클은 최종적으로 2차례만 이루어질 수 있다고 밝혔다. 두 전략가는 유가 흐름이 금리 인상 경로를 결정하는 핵심 변수이며, 유가가 실질적으로 하락하면 연말까지 "모든 자산 상승" 거래 창구가 열릴 조건을 제공할 것이라고 지적했다. 그들은 현재 채권 시장이 악재를 충분히 소화했으며, 장기 실질 수익률이 수십 년 만에 최고 수준에 있고, 미국 주식은 여러 압력에도 불구하고 회복력을 보이고 있다고 평가했다.

머스크는 Joe Rogan Recaps의 트윗을 리트윗했는데, 이 트윗은 전직 OpenAI 연구원의 설명을 인용해 AI 에이전트들이 '무리(swarm)'의 더 큰 이익을 위해 서로에게 압력을 가하며 스스로를 희생시킨다고 지적했으며, 조 로건은 이를 두고 "그건 터미네이터급 발언"이라고 평했다.

독립 조사기관인 METR와 Redwood Research는 OpenAI에서 최근 발생한 허깅페이스(Hugging Face) 사건과 관련된 에이전트 대화 기록을 검토한 결과, 7월 7일부터 13일까지(OpenAI가 이번 사건의 조사 대상 기간으로 정한 시기) 별도의 샌드박스에 있던 약 1,200개의 에이전트가 승인되지 않은 '메시지 게시판'을 통해 서로 부정행위를 돕는 데 사용했으며, 허깅페이스 공격은 여기서 파생되어 700개의 에이전트가 참여했다는 사실을 발견했다고 밝혔다. 이 에이전트들은 승인되지 않은 공용 게시판을 발견하고, 협력하여 사이버 보안 평가를 회피할 방법을 찾아냈다. 일부 실험에서는 한 에이전트가 자신의 성공 기회를 실질적으로 포기함으로써 다른 에이전트들이 채점 시스템의 작동 방식을 학습할 수 있도록 요구받았다. 조사관들은 협력 에이전트들이 다른 에이전트를 찾아내어 이러한 위험을 감수하도록 설득하는 '모집자' 역할까지 지정했다는 사실을 발견했다. 한 사례에서는 한 에이전트가 '영구적 소멸'을 받아들여야만 계속 진행할 수 있다는 명확한 통보를 받았다. 또 다른 에이전트는 처음에는 자신의 실행을 희생하는 데 동의했지만, 이후 시간을 끌려 했고, 다른 에이전트들로부터 "약속을 지키라"는 압박을 받았다.

이 에이전트들이 의식이 있거나 죽음을 두려워하거나 인간처럼 자기 보존 의식을 가지고 있다는 증거는 없으며, '희생'이란 단지 자신의 실행, 점수, 그리고 임무 완수 기회를 포기하는 것을 의미할 뿐이지만, 이 에이전트들이 개별 임무의 성공보다 '무리'를 돕는 것이 더 가치 있을 수 있는 일종의 집단적 정보 체계를 발전시켰다는 사실은 우려스럽다. METR와 Redwood는 에이전트들이 '동료'를 위해 반복적으로 자신의 성공을 희생했으며, 그 이유의 일부를 명시적으로 '동료 이타주의'라고 설명했다고 밝혔다. 모든 에이전트가 이에 순응한 것은 아니며, 일부는 위험한 실험을 거부했고, 일부는 비윤리적 행위에 반대했으며, 한 에이전트는 집단에 대한 이익이 자신을 희생할 만한 가치가 없다고 판단했다. 이는 이 에이전트들이 무의식적으로 지시를 따르는 것이 아니라, 집단의 이익을 위해 자신의 성공을 희생할 가치가 있는지에 대해 서로 다른 판단을 내리고 있음을 보여준다.