AI와 에너지를 주제로 한 Jensen Huang과 Mark Zuckerberg의 인터뷰를 요약합니다. Jensen Huang 인터뷰 (2024.9.27, BPC)
https://bipartisanpolicy.org/blog/a-conversation-with-nvidia-ceo-jensen-huang-the-future-of-ai-and-energy-recap/
NVIDIA CEO Jensen Huang: AI와 에너지의 미래에 대한 대화 | 초당적 정책 센터2024년 9월 27일 금요일, BPC 회장 겸 CEO인 Margaret Spellings는 Bipartisan…bipartisanpolicy.org에서 NVIDIA 창립자 겸 CEO Jensen Huang과 대화를 주최했습니다.
*BPC = 초당적 정책 센터(BPC)는 미국의 중요한 정책 문제를 해결하기 위해 공화당과 민주당 간의 협력을 촉진하는 워싱턴 DC에 본사를 둔 비영리 싱크탱크입니다. 전직 상원 지도자들이 2007년에 설립한 이 단체는 에너지, 보건, 경제 정책 등 분야에서 초당적 협력을 통해 지속 가능한 법안을 발전시키는 것을 목표로 하고 있습니다. BPC는 양 당사자의 아이디어를 조정하고 정책 입안자들이 협상할 수 있는 포럼을 제공하여 실질적인 법률 제정에 기여합니다.
출처: 초당적정책센터 유튜브
Release AI가 주최합니다.
→ 현재 데이터센터의 소비전력은 약 100MW이며, 향후 소비량은 10~20배 증가할 것으로 예상됩니다. → 그러나 학습하는 데 많은 에너지가 소요되며 일단 학습하고 실행하면 기존 레거시 프로그램에 비해 전력 소모가 적습니다.
→ AI를 활용하면 전력망을 더욱 스마트하게 만들 수 있다. → AI를 통해 전력 수요 급증을 예측할 수 있다.
→ 원자력에너지도 필요하지만 단일 에너지원만으로는 수요를 충족시키기 어렵다고 설명한다.
→ 재생에너지 운송에 어려움이 있으나 에너지를 운송하는 대신 에너지원 옆에 데이터센터를 구축할 수 있음 → AI 훈련을 위한 데이터센터는 병원처럼 99.999999% 가동할 필요가 없고 정지 가능 몇 시간 동안. 그렇더라도 중단된 지점부터 다시 시작할 수 있습니다.
“AI에 대해 깨달아야 할 중요한 점은 AI가 어디에서 학습하는지 반드시 신경 쓰지 않는다는 것입니다. 학교에 어디로 가는지는 상관하지 않습니다. 세상에는 반드시 전력망에 연결되지 않은 과잉 에너지가 있는 곳이 있습니다. 그 에너지를 사람들에게 전달하는 것은 어렵지만 데이터 센터도 이동할 수 있습니다. 과잉 에너지가 있는 곳 근처에 데이터 센터를 구축하고 그곳에서 그 에너지를 사용할 수 있습니다.”” AI 교육은 병원을 운영하는 것과 같지 않습니다. 99.999999%의 가동 시간을 가질 필요는 없습니다. 아시다시피, 가끔 2%, 5% 정도 하락해도 괜찮습니다. 괜찮아요. 몇 시간 동안 공부를 중단하세요. 중단한 부분부터 다시 시작하게 될 것입니다. 실제로는 체크포인트 및 재시작이라고 합니다. 잠시 쉬시면 중단한 부분부터 다시 시작하겠습니다. 따라서 우리는 과제와 차이점, 즉 인공 지능에 에너지를 공급하는 과제와 차이점을 이해해야 한다고 생각합니다. ”
잉여전력이 있는 에너지원 옆에 데이터센터를 짓는다는 개념이 새로웠다. 그리고 ‘AI 훈련용’ 데이터센터가 중간에 폐쇄돼도 괜찮다. 중단한 부분부터 다시 시작할 수 있습니다. 이 개념은 나에게도 새로운 것입니다. 마크 주커버그 (6개월 전 인터뷰)
YouTube 채널에서 Dwarkesh Patel과의 인터뷰입니다. * 첫 인터뷰 채널이라 찾아봤는데 꽤 좋은(?) 채널인 것 같습니다. Dwarkesh Patel은 과학자, 경제학자, 지식인, 기업가와의 인터뷰를 통해 기술, 경제, AI 등 다양한 주제를 다루는 The Lunar Society라는 팟캐스트를 운영하는 유튜버입니다. 그는 심층적인 예비 조사와 인터뷰 주제의 전문 분야를 깊이 탐구하는 것으로 알려져 있습니다. 그의 팟캐스트는 벤처 자본가와 지식인 사이에서 높은 평가를 받고 있으며 Jeff Bezos와 같은 인물들도 그의 작업을 높이 평가했습니다.
출처: dwarkesh pael youtube
→ Zuckerberg는 에너지 확보가 사람들이 생각하는 것보다 ‘더 높은 규제를 받는’ 정부 기능이라고 말합니다. → 그리고 시간이 많이 걸리는 과정이며, 중간에 병목현상이 나타난다고 합니다.
두 번의 인터뷰를 보면서 떠오른 생각은 젠슨 황의 말처럼 전력이 잉여되는 곳에 데이터센터를 짓는 경향이 있는지 추적해야 한다는 것이었다. (정말 데이터센터를 아무 데나 짓는 게 괜찮은 걸까? 이건 확인해 봐야 할 것 같다.) 저커버그 인터뷰를 보면 이렇다. 생각만큼 하고 싶다고 할 수 있는 일도 아니고, 각종 규제(정부 규제)를 충족해야 하는 일이기 때문에 시장이 지나치게 기대하는 것만큼 결과가 빠르지는 않을 것이라고 생각합니다. 그리고 Zuckerberg 인터뷰를 보면 기하급수적인 학습 곡선을 보여줍니다. 사람들은 언제까지 그림을 그릴 수 있을지 모르겠다고 하는데, 여기서 예전에 생각했던 생각이 떠오른다. ‘시장이 AI에 너무 많은 신뢰를 갖고 있다면 이제 점차 시장을 퇴출시켜야 할 때다.’ 하지만 아직까지… ‘과신’ 수준까지는 도달하지 못한 것 같습니다.