Will Lack of Energy Halt the Development of AI? (film, 12m)
Kanał Zero discusses one of the crucial topics of modern technology - the development of artificial intelligence (AI) and its potential limitations. Many believe that the advancement of AI is irreversible due to the resources invested in the field and its promising prospects. However, history has shown that sometimes it's not people who back down from technological development, but rather they are forced to stop. Examples from the past illustrate that improper resources and lack of appropriate materials can halt innovations for many years.
In his remarks, Sam Altman, the CEO of OpenAI, highlighted the necessity of developing energy technologies that could support artificial intelligence. He also mentioned nuclear fusion as a potential energy source that could power future AI systems. These discussions are particularly crucial, as complex AI models require vast amounts of energy, and their development could be threatened by insufficient energy resources. It is essential to acknowledge that the energy consumption by data centers is increasing alarmingly.
According to analyses by the International Energy Agency, data centers account for about 2% of global electricity consumption, and this figure is steadily rising. Expert Alex de Vries estimates that a single AI server manufacturer, NVIDIA, could release 1.5 million new servers annually, leading to an energy demand of 100 to 130 terawatt-hours per year. This is an immense amount of energy that requires robust power and management systems.
In the longer term, the rising costs associated with AI development may pose significant challenges. To meet the increasing energy demands, manufacturers may struggle to keep pace with technological growth. If widespread AI usage forces tech giants like Google to invest hundreds of billions of dollars into infrastructure development, the situation could become critical. It will thus be essential to develop effective energy sources in the future to enable the continued growth of this technology.
As of the time of writing this article, the video from Kanał Zero had 31,509 views and 1,562 likes. This indicates a growing interest in the topic of AI and energy. This issue is exceptionally relevant and important; therefore, it is worthwhile to follow further developments in this field to understand how changes in energy infrastructure may impact the future development of artificial intelligence.
Toggle timeline summary
-
Introduction to the possibility of halting AI development.
-
Investment in AI is significant, making it unlikely to divert from its development.
-
Historical instances of technology being abandoned.
-
Introduction of partners supporting the Zero channel.
-
Discussion about Leonardo da Vinci's visionary prototypes.
-
Explaining that Da Vinci's ideas were realized centuries later.
-
Challenges faced historically due to lack of materials and resources.
-
Potential challenges AI development might face due to energy and water shortages.
-
Altman from OpenAI highlights energy consumption of advanced AI systems.
-
Nuclear fusion as a potential solution for sustainable AI energy.
-
Current state of fusion technology is not yet commercially viable.
-
Significant energy demands for advanced AI infrastructure.
-
Data centers account for about 2% of global energy consumption.
-
Projected energy needs for NVIDIA's AI server production.
-
Comparison of AI server energy needs with Poland's energy consumption.
-
Reflections on the implications of transforming search engines into AI chat.
-
Energy implications of using AI models compared to traditional search engines.
-
In-depth discussion on the energy requirements for AI training and inference.
-
Extreme predictions about data centers consuming a substantial portion of global energy.
-
Conclusion questioning the feasibility of halting AI development.
-
Historical context of technological development barriers.
Transcription
Czy rozwój sztucznej inteligencji może zostać zatrzymany? Wielu powie, że z tej drogi już nie zejdziemy, bo za dużo w nią zainwestowano, za bardzo jest ona obiecująca. Ale my z drogi czasami nie tyle schodzimy, ile jesteśmy zrzucani z drogi technologii. Historia zna takie przypadki. Partnerem głównym kanału Zero jest rocketjobs.pl, Twój portal z ofertami pracy. Partnerem programu jest SFD, producent All Nutrition Feed King Delicious. Bądź najlepszą wersją siebie. Byłem kilka tygodni temu we Włoszech i tam w jednym z muzeów widziałem modele 1-1 maszyn zaprojektowanych przez Leonardo da Vinci. Między innymi jego czołgi i jego helikopter. Obydwa projekty były w jego czasach absolutnie wizjonerskie i obydwa zostały zrealizowane. Tyle tylko, że kilkaset lat później. Skoro pomysł powstał, skoro powstał prototyp, dlaczego go nie rozwijano wtedy? Bo nie było odpowiednich materiałów, bo nie było technologii, nazwijmy to takich pomocowych. I bo nie było odpowiedniej liczby zasobów. Czy z AI może być podobnie? Może. Do rozwoju tej technologii może zabraknąć prądu i wody. Kilka tygodni temu sam Altman, dyrektor generalny OpenAI i twórca czata GPT podczas Światowego Forum Ekonomicznego w Davos powiedział, że zaawansowane systemy AI będą zużywać znacznie więcej energii niż oczekiwano, a nasze obecne systemy energetyczne będą miały trudności z poradzeniem sobie. Powiedział też, że jedyną nadzieją dla pełnego rozwoju AI jest fuzja jądrowa. Dla przypomnienia i mocno spłycając, bo większy materiał o fuzji na Naukatolubie dopiero powstaje. Fuzja jądrowa to sposób na produkcję dużych ilości energii elektrycznej, z powszechnie dostępnych atomów wodoru, bez emisji gazów cieplarnianych oraz w zasadzie bez radioaktywnych odpadów. Technologia jest super, tyle tylko, że jeszcze nie istnieje w wersji komercyjnej. Nie istnieje i w zasadzie nie wiadomo kiedy powstanie. Ale naukowcy ostro pracują, by stało się to jak najszybciej. Co ma prąd do rozwoju AI? Zaawansowana sztuczna inteligencja wymaga ogromnych ilości energii do zasilania serwerów, komputerów, na których modele AI są tworzone. Ten cały sprzęt zużywa ogromne ilości energii. Duże zużycie energii przez serwery generuje dużo ciepła, a więc trzeba wszystko chłodzić. Więc pojawia się problem z wodą. Zacznijmy od prądu. Ile go potrzeba do rozwoju AI? Sprawdziłem według Międzynarodowej Agencji Energetyki na całym świecie. Centra danych, centra analizy danych zużywają w sumie około 2% światowego zużycia energii elektrycznej. Wydaje się to być niewiele, ale ten odsetek bardzo szybko rośnie. Z analiz wynika, że w ciągu następnych 2-3 lat tylko jedna firma, NVIDIA, będzie dostarczać na rynek 1,5 miliona serwerów AI rocznie. Jeżeli te serwery będą pracowały na pełnej wydajności, to będą zużywały od 100 do 130 terawattogodzin rocznie. Dla porównania Polska zużywa w zaokrągleniu 14 terawattogodzin. Czyli po to, by napędzić serwery AI produkowane przez jedną tylko firmę, zgoda przez lidera, ale wciąż nie jednego producenta, potrzeba byłoby ponad od 7 do 10 systemów energetycznych, które zasilają nasz kraj. Albo ilość energii, jaką Polska zużywa przez od kilku do 10 lat. A przecież jesteśmy dość dużym krajem i to w skali świata bardzo nowoczesnym energetycznie, czy nowoczesnym krajem, który zużywa całkiem sporo prądu. Autor analizy, na którą się powołuję i którą, jak zawsze znajdziecie w opisie do tego filmu, to Alex de Vries, data scientist, naukowiec zajmujący się analizą danych z Uniwersytetów w Amsterdamie. W jednym z wywiadów, którego udzielił czasopismu Scientific American podał następujący przykład. Jeżeli całkowicie przekształcimy wyszukiwarkę, czy zamienimy wyszukiwarkę google'ową w coś rodzaju chata GPT i wszyscy będziemy z niej korzystali w ten właśnie sposób, będziemy mieć 9 miliardów interakcji z chatbotem, zamiast 9 miliardów regularnych wyszukiwań na dzień. Jeżeli to się stanie, wtedy zużycie energii tylko przez Google'a gwałtownie wzrośnie. Google będzie potrzebował tyle samo mocy, co Irlandia, żeby uruchomić swoją wyszukiwarkę. Tą wyszukiwarkę wspartą AI'em. Dane wskazują, że korzystanie z modelu językowego zużywa od 4 do 5 razy więcej energii, niż korzystanie z prostej wyszukiwarki. Naukowiec podkreślił też, że sam tylko Google, gdyby taka zmiana miała nastąpić, musiałby zainwestować sprzed około 100 miliardów dolarów. A przecież ta zmiana szybko następuje. Trendy pokazują jasno, że coraz częściej zamiast wpisywania w wyszukiwarkę do szukania, korzystamy z chatbotów AI. Co takiego jest w AI, że do jej obsługi, do korzystania z niej potrzeba tyle energii? Przede wszystkim szkolenie. Tutaj potrzeba sporo mocy, żeby model dobrze działał. Ale jest też coś, co chyba mogę nazwać wnioskowaniem, albo raczej kojarzeniem. Zadajemy pytanie, a model językowy musi przeczesać ogrom danych, wykonać ogrom operacji, by udzielić odpowiedzi. To wnioskowanie wymaga nawet większej ilości energii niż samo szkolenie. I teraz, w zależności od tego, o jakim modelu mówimy, o jakim modelu nie tylko językowym, tylko modelu w ogóle AI-owym mówimy, w niektórych szkolenie odbywa się tylko raz, na początku, podczas gdy wnioskowanie to normalne działanie modelu, a więc ma miejsce w zasadzie cały czas. Są oczywiście modele, które uczą się szkolą cały czas, więc tu mamy do czynienia z jeszcze większym zużyciem. W najbardziej ekstremalnym scenariuszu, w ciągu następnych kilku lat, wzrost energii konsumowanej przez centra danych może spowodować, że będą one potrzebowały około 10% światowej produkcji energii. Dzisiaj jest to niewyobrażalne. Więcej przy dzisiejszej strukturze produkcji energii jest to nie do zrobienia. Pamiętajmy jednak o tym, że wyścig rozgrywa się o to, kto wybuduje ogólną AI, taką, która będzie uniwersalnym asystentem, wsparciem, a nie takim, który jest wyuczony w jakiejś wąskiej specjalizacji. Taka ogólna AI będzie zużywała nieporównywalnie więcej energii, niż te modele, które mamy do dyspozycji dzisiaj. Im potężniejsza sztuczna inteligencja, tym więcej energii potrzebuje do działania. I tu wpadamy w pułapkę. Na początku tej drogi podwojenie ilości danych potrzebnych do treningu co w pierwszym przybliżeniu powodowało dwukrotnie większą konsumpcję energii, to podwojenie znacząco zwiększało wydajność całego modelu. Ten czas mamy jednak za sobą. Dzisiaj, chcąc zauważyć z punktu widzenia użytkownika różnicę, trzeba zwiększyć liczbę danych nie dwukrotnie, ale dziesięciostu albo tysiąckrotnie. A to, znowu w pierwszym przybliżeniu, zwiększa konsumpcję energii nie dwukrotnie, ale dziesięciostu albo tysiąckrotnie. Mówię zarówno o procesie nauki, jak i wnioskowania. I wciąż te wzrosty są wykładnicze. I nie kończą się w którymś momencie, bo im więcej danych, tym więcej energetycznie kosztuje trening i wnioskowanie. Rozumiecie już dlaczego Altman mówił o tym, że jedynym ratunkiem dla nieograniczonego rozwoju AI jest fuzja jądrowa? Jak już powiedziałem, zużywanie dużych ilości prądu oznacza konieczność potężnego chłodzenia, np. wodą. Microsoft w Arizonie zużywa ogromne ilości wody do chłodzenia swoich centrów danych obsługiwanych czy obsługujących usługi chmurowe i AI. Podczas letnich miesięcy, w 2023 roku, znalazłem taką informację, firma zużyła ponad 1,7 miliarda litrów wody. Tylko jedna firma, tylko jedno centrum badawcze. Kto wie, czy w przyszłości centra analiz danych nie będą budowane tylko na terenach, nie wiem, dalekiej północy, albo dalekiego południa, takiego blisko bieguna. No to wracam do początku. Czy można sobie wyobrazić to, że zrezygnujemy z drogi rozwoju AI? My sami nie. Za dużo nam oferuje. Ale może się okazać, że nie mamy możliwości rozwinąć jej dalej. Tak jak Leonardo da Vinci nie mógł latać skonstruowanym przez siebie helikopterem, choć z całą pewnością bardzo chciał. Nie miał odpowiednich zasobów, by rozwinąć swoją technologię. Te pojawiły się dopiero kilkaset lat później. Pamiętasz? Pierwsza piłka. Pierwszy rower. Pierwsze wyścigi. Zawody. Pierwszy WF. Jakie to wspomnienia. Czy było łatwo i przyjemnie? A może wręcz przeciwnie. Dziś twoje dziecko też przez to przechodzi. Mierzy się z wyzwaniami, które ty dobrze znasz. Przygotuj je do pierwszego sportowego kroku. Bądźcie razem w sporcie i budujcie wspomnienia na całe życie. Wejdź na sporttolubie.pl, ukośnij konkurs i dowiedz się więcej. www.rocketjobs.pl Kliknij w jeden z polecanych filmów, aby obejrzeć najlepsze produkcje kanału Zero.