Artwork

Nội dung được cung cấp bởi Ulrike Ostler. Tất cả nội dung podcast bao gồm các tập, đồ họa và mô tả podcast đều được Ulrike Ostler hoặc đối tác nền tảng podcast của họ tải lên và cung cấp trực tiếp. Nếu bạn cho rằng ai đó đang sử dụng tác phẩm có bản quyền của bạn mà không có sự cho phép của bạn, bạn có thể làm theo quy trình được nêu ở đây https://vi.player.fm/legal.
Player FM - Ứng dụng Podcast
Chuyển sang chế độ ngoại tuyến với ứng dụng Player FM !

#35: Gridscale-CEO Henrik Hasenkamp: „Was für ein GPU-Wahnsinn!“

41:21
 
Chia sẻ
 

Manage episode 422195691 series 3446325
Nội dung được cung cấp bởi Ulrike Ostler. Tất cả nội dung podcast bao gồm các tập, đồ họa và mô tả podcast đều được Ulrike Ostler hoặc đối tác nền tảng podcast của họ tải lên và cung cấp trực tiếp. Nếu bạn cho rằng ai đó đang sử dụng tác phẩm có bản quyền của bạn mà không có sự cho phép của bạn, bạn có thể làm theo quy trình được nêu ở đây https://vi.player.fm/legal.

Durch den Boom der Künstlichen Intelligenz, haben sich die Anforderungen für Rechenzentren drastisch verändert. Die KI braucht jeden Menge Daten und Rechenleistung, die diese verarbeiten kann. Grafikprozessoren helfen, die notwendige Leistung für KI-Anwendungen zu generieren. Während herkömmliche Rechenzentren manchmal mit 1 bis 2 Kilowatt (kW) pro Rack kalkulieren, brauchen Serverschränke, die mit GPU-Knoten ausgestattet sind, manchmal 100 kW und mehr.

Doch einerseits muss für GPUs in die Tasche gegriffen werden. Der jüngste Chip vom Markführer Nvidia liegt laut CEO Jensen Huang bei 30.000 bis 40.000 Euro. Damit könnte man sich einen gut ausgestatten 'VW Golf' zulegen, oder eben eine einzelne Nvidia-GPU.

Andererseits ist der Markt leergefegt. Nach Angaben von Omdia-Analyst Vlad Galabov kamen im vergaengenen Jahr gerade einmal eine Handvoll Firmen weltweit an die jüngsten Spezifikationen - die Hyperscaler.

Allein Meta hat bereits 30 Milliarden Dollar in Nvidia-Chips investiert. Für die neuen Prozessoren wurde bereits mehrere Monate vor Start der Auslieferung, mit Lieferengpässen gerechnet.

Zwar bietet AMD Alternativen zu Nvidia, , die sollen aber nicht so leistungsfähig sein, und Intel hat mit „Gaudi 3“ vor Kurzem eine konkrrenzfähige GPU vorgestellt, doch der KI-Bedarf wächst rasant, die Preise bleiben hoch, der Hunger nach performanter Hardware steigt, die Hyperscaler können zahlen .... der GPU-Wahnsinn hält noch eine Weile an.

Artikel zum Thema:

  1. Hoffnungsschimmer: quelloffenes Chip-Design; Bieten Open-Source-Chips eine Alternative zu Liefer­engpässen, Marktübermacht und Abhängigkeit?
  2. Mittelklassewagenpreise, Lieferengpässe und Hamsterkäufe; GPU-Wahnsinn: Wieso jeder die Prozessoren will, doch fast keiner sie kriegt

Unternehmen: @Nvidia @Gridscale @Henrik Hasenkamp

#Gridscale #Nvidia #CPU #KI #GenAI #Prozessor

Folgen Sie uns auf Social Media:


Bestellen Sie unseren kostenfreien Newsletter:


Unsere Website:

  • datacenter-insider.de, alles zu Software, Services, Hardware für Rechenzentren und das Darumherum um die IT

Weitere spannende Podcasts aus dem Hause Vogel IT-Medien GmbH:


  continue reading

40 tập

Artwork
iconChia sẻ
 
Manage episode 422195691 series 3446325
Nội dung được cung cấp bởi Ulrike Ostler. Tất cả nội dung podcast bao gồm các tập, đồ họa và mô tả podcast đều được Ulrike Ostler hoặc đối tác nền tảng podcast của họ tải lên và cung cấp trực tiếp. Nếu bạn cho rằng ai đó đang sử dụng tác phẩm có bản quyền của bạn mà không có sự cho phép của bạn, bạn có thể làm theo quy trình được nêu ở đây https://vi.player.fm/legal.

Durch den Boom der Künstlichen Intelligenz, haben sich die Anforderungen für Rechenzentren drastisch verändert. Die KI braucht jeden Menge Daten und Rechenleistung, die diese verarbeiten kann. Grafikprozessoren helfen, die notwendige Leistung für KI-Anwendungen zu generieren. Während herkömmliche Rechenzentren manchmal mit 1 bis 2 Kilowatt (kW) pro Rack kalkulieren, brauchen Serverschränke, die mit GPU-Knoten ausgestattet sind, manchmal 100 kW und mehr.

Doch einerseits muss für GPUs in die Tasche gegriffen werden. Der jüngste Chip vom Markführer Nvidia liegt laut CEO Jensen Huang bei 30.000 bis 40.000 Euro. Damit könnte man sich einen gut ausgestatten 'VW Golf' zulegen, oder eben eine einzelne Nvidia-GPU.

Andererseits ist der Markt leergefegt. Nach Angaben von Omdia-Analyst Vlad Galabov kamen im vergaengenen Jahr gerade einmal eine Handvoll Firmen weltweit an die jüngsten Spezifikationen - die Hyperscaler.

Allein Meta hat bereits 30 Milliarden Dollar in Nvidia-Chips investiert. Für die neuen Prozessoren wurde bereits mehrere Monate vor Start der Auslieferung, mit Lieferengpässen gerechnet.

Zwar bietet AMD Alternativen zu Nvidia, , die sollen aber nicht so leistungsfähig sein, und Intel hat mit „Gaudi 3“ vor Kurzem eine konkrrenzfähige GPU vorgestellt, doch der KI-Bedarf wächst rasant, die Preise bleiben hoch, der Hunger nach performanter Hardware steigt, die Hyperscaler können zahlen .... der GPU-Wahnsinn hält noch eine Weile an.

Artikel zum Thema:

  1. Hoffnungsschimmer: quelloffenes Chip-Design; Bieten Open-Source-Chips eine Alternative zu Liefer­engpässen, Marktübermacht und Abhängigkeit?
  2. Mittelklassewagenpreise, Lieferengpässe und Hamsterkäufe; GPU-Wahnsinn: Wieso jeder die Prozessoren will, doch fast keiner sie kriegt

Unternehmen: @Nvidia @Gridscale @Henrik Hasenkamp

#Gridscale #Nvidia #CPU #KI #GenAI #Prozessor

Folgen Sie uns auf Social Media:


Bestellen Sie unseren kostenfreien Newsletter:


Unsere Website:

  • datacenter-insider.de, alles zu Software, Services, Hardware für Rechenzentren und das Darumherum um die IT

Weitere spannende Podcasts aus dem Hause Vogel IT-Medien GmbH:


  continue reading

40 tập

Tất cả các tập

×
 
Loading …

Chào mừng bạn đến với Player FM!

Player FM đang quét trang web để tìm các podcast chất lượng cao cho bạn thưởng thức ngay bây giờ. Đây là ứng dụng podcast tốt nhất và hoạt động trên Android, iPhone và web. Đăng ký để đồng bộ các theo dõi trên tất cả thiết bị.

 

Hướng dẫn sử dụng nhanh