Mal eine Frage an euch: KI aus Deutschland wird ja im Gegensatz zu der aus USA als irgendwie besser angesehen, weil vertrauenswürdiger. Ich verstehe das nicht ganz. Wenn doch mittlerweile amerikanische Unternehmen ihre Server hier haben und die Daten Europa gar nicht verlassen... und wenn doch auch Microsoft und Co. sagen, sie wollen sich an die europäischen KI-Regeln halten - wo ist dann noch Bedarf für rein deutsche KI? Außerdem nutzten sowieso alle Unternehmen MS Office, Teams usw.. Da fragt auch niemand danach, ob die Software europäisch ist.

Hab ich noch nie gehört speziell im Bezug auf KI. Höchstens im Bezug auf Software die in Unternehmen eingesetzt wird und Kundendaten abspeichert. Aber wie du schon sagtest, MS Office und Windows sind von oben bis unten verwanzt und die US-Geheimdienste können auf alles zugreifen, wenn sie wollen. Dieses "Datenschutz-washing" wie ich es nenne, ist nur Marketing.

WiWi Gast schrieb am 17.01.2024:

Mal eine Frage an euch: KI aus Deutschland wird ja im Gegensatz zu der aus USA als irgendwie besser angesehen, weil vertrauenswürdiger. Ich verstehe das nicht ganz. Wenn doch mittlerweile amerikanische Unternehmen ihre Server hier haben und die Daten Europa gar nicht verlassen... und wenn doch auch Microsoft und Co. sagen, sie wollen sich an die europäischen KI-Regeln halten - wo ist dann noch Bedarf für rein deutsche KI? Außerdem nutzten sowieso alle Unternehmen MS Office, Teams usw.. Da fragt auch niemand danach, ob die Software europäisch ist.

Rein deutsche KI-Unternehmen wie Aleph Alpha sind eine Nische für hoch regulierte Unternehmen oder Unternehmen mit Angststörung.

WiWi Gast schrieb am 17.01.2024:

Mal eine Frage an euch: KI aus Deutschland wird ja im Gegensatz zu der aus USA als irgendwie besser angesehen, weil vertrauenswürdiger. Ich verstehe das nicht ganz. Wenn doch mittlerweile amerikanische Unternehmen ihre Server hier haben und die Daten Europa gar nicht verlassen... und wenn doch auch Microsoft und Co. sagen, sie wollen sich an die europäischen KI-Regeln halten - wo ist dann noch Bedarf für rein deutsche KI? Außerdem nutzten sowieso alle Unternehmen MS Office, Teams usw.. Da fragt auch niemand danach, ob die Software europäisch ist.

Es gibt widersprüchliche Regelungen (zu den EU gesetzen)
Patriot act usw, bei denen die US Regierung auch auf ausländische Daten zugreifen kann, auch wenn diese auf Servern im Ausland unter anderer Gesetzeslage liegen.
Sehr naiv zu glauben die Daten seien sicher wenn sie auf einem Server in Frankfurt liegen.

okay, das eine Argument ist, dass man sich nicht vom "Lieferanten" USA abhängig machen sollte. Aber was ist mit dem Argument der "ethischen KI"? Also denkt ihr, dass die KI aus Europa irgendwie besser ist in dieser Hinsicht? Das ist doch eigentlich alles eine Frage des Endanwenders, wofür er die LLM nutzt. Die sind ja nur quasi die Infrastruktur...

Tatsächlich gar nicht so naiv.
Die Daten sind verschlüsselt und der Kunde hat den Schlüssel.
Klar können wir verschlüsselte Daten weiterleiten, wenn wir eine gerichtliche Anordnung erhalten.
Deswegen kann es aber trotzdem niemand entschlüsseln.

Übrigens - das ist auch nicht anders als bei jedem anderen Datacenter Anbieter und selbst bei jedem Unternehmen, dass seine Daten selber hosted.
Bekommst du eine valide gerichtliche Verfügung, dass Du Daten zu übergeben hast, dann hast du die Daten zu übergeben.
Vollkommen egal, ob US Unternehmen, DE Unternehmen oder irgendeine andere beliebige Jurisdiktion.

Der Rest bzgl. Patriot Act ist eine beliebige Kombination aus Aberglaube und Unwissenheit.

Zum Thema - ehrlich gesagt eine ziemlich seltsame Frage: natürlich ist es grundsätzlich egal, ob dein Model in US, EU oder DE entwickelt wurde - deswegen will trotzdem jede Region an dem Thema mitarbeiten oder mitverdienen.
Du kannst genauso argumentieren: warum sollte man in DE Autos produzieren, wenn es auch welche aus Asien gibt?

Du musst doch als Regierung und Gesellschaft permanent versuchen, die heißen Themen in deiner Region anzusiedeln, um Attraktivität und Arbeitsplätze sicherzustellen.

WiWi Gast schrieb am 18.01.2024:

Mal eine Frage an euch: KI aus Deutschland wird ja im Gegensatz zu der aus USA als irgendwie besser angesehen, weil vertrauenswürdiger. Ich verstehe das nicht ganz. Wenn doch mittlerweile amerikanische Unternehmen ihre Server hier haben und die Daten Europa gar nicht verlassen... und wenn doch auch Microsoft und Co. sagen, sie wollen sich an die europäischen KI-Regeln halten - wo ist dann noch Bedarf für rein deutsche KI? Außerdem nutzten sowieso alle Unternehmen MS Office, Teams usw.. Da fragt auch niemand danach, ob die Software europäisch ist.

Es gibt widersprüchliche Regelungen (zu den EU gesetzen)
Patriot act usw, bei denen die US Regierung auch auf ausländische Daten zugreifen kann, auch wenn diese auf Servern im Ausland unter anderer Gesetzeslage liegen.
Sehr naiv zu glauben die Daten seien sicher wenn sie auf einem Server in Frankfurt liegen.

Voice of Reason schrieb am 18.01.2024:

Tatsächlich gar nicht so naiv.
Die Daten sind verschlüsselt und der Kunde hat den Schlüssel.
Klar können wir verschlüsselte Daten weiterleiten, wenn wir eine gerichtliche Anordnung erhalten.
Deswegen kann es aber trotzdem niemand entschlüsseln.

Übrigens - das ist auch nicht anders als bei jedem anderen Datacenter Anbieter und selbst bei jedem Unternehmen, dass seine Daten selber hosted.
Bekommst du eine valide gerichtliche Verfügung, dass Du Daten zu übergeben hast, dann hast du die Daten zu übergeben.
Vollkommen egal, ob US Unternehmen, DE Unternehmen oder irgendeine andere beliebige Jurisdiktion.

Der Rest bzgl. Patriot Act ist eine beliebige Kombination aus Aberglaube und Unwissenheit.

Zum Thema - ehrlich gesagt eine ziemlich seltsame Frage: natürlich ist es grundsätzlich egal, ob dein Model in US, EU oder DE entwickelt wurde - deswegen will trotzdem jede Region an dem Thema mitarbeiten oder mitverdienen.
Du kannst genauso argumentieren: warum sollte man in DE Autos produzieren, wenn es auch welche aus Asien gibt?

Du musst doch als Regierung und Gesellschaft permanent versuchen, die heißen Themen in deiner Region anzusiedeln, um Attraktivität und Arbeitsplätze sicherzustellen.

Mal eine Frage an euch: KI aus Deutschland wird ja im Gegensatz zu der aus USA als irgendwie besser angesehen, weil vertrauenswürdiger. Ich verstehe das nicht ganz. Wenn doch mittlerweile amerikanische Unternehmen ihre Server hier haben und die Daten Europa gar nicht verlassen... und wenn doch auch Microsoft und Co. sagen, sie wollen sich an die europäischen KI-Regeln halten - wo ist dann noch Bedarf für rein deutsche KI? Außerdem nutzten sowieso alle Unternehmen MS Office, Teams usw.. Da fragt auch niemand danach, ob die Software europäisch ist.

Es gibt widersprüchliche Regelungen (zu den EU gesetzen)
Patriot act usw, bei denen die US Regierung auch auf ausländische Daten zugreifen kann, auch wenn diese auf Servern im Ausland unter anderer Gesetzeslage liegen.
Sehr naiv zu glauben die Daten seien sicher wenn sie auf einem Server in Frankfurt liegen.

Als Mitarbeiter von Google würde ich das auch sagen. Einfach mal Clarifying Lawful Overseas Use of Data Act lesen.
Grüße von einer Behörde.

Logischerweise kenn ich den CLOUD Act.
Wo steht das aber im Widerspruch mit meiner Aussage?
Ja, wenn ein Gericht ein “lawful data request” an uns oder jeden anderen Cloud-Anbieter oder jeden anderen Rechenzentrumsanbieter stellt, dann müssen die Daten übergeben werden.

Deswegen können wir sie trotzdem nicht entschlüsseln WEIL WIR DEN SCHLÜSSEL NICHT HABEN - d.h., bei der Übergabe sind wir zwingend auf Kooperation mit dem Kunden angewiesen.

Was ist denn für ein konspirativer Dünnpfiff wenn tatsächlich noch jemand glaubt, das wir einfach durch eine angebliche Hintertür der US-Regierung vollen Datenzugriff geben würden.

WiWi Gast schrieb am 18.01.2024:

Voice of Reason schrieb am 18.01.2024:

Tatsächlich gar nicht so naiv.
Die Daten sind verschlüsselt und der Kunde hat den Schlüssel.
Klar können wir verschlüsselte Daten weiterleiten, wenn wir eine gerichtliche Anordnung erhalten.
Deswegen kann es aber trotzdem niemand entschlüsseln.

Übrigens - das ist auch nicht anders als bei jedem anderen Datacenter Anbieter und selbst bei jedem Unternehmen, dass seine Daten selber hosted.
Bekommst du eine valide gerichtliche Verfügung, dass Du Daten zu übergeben hast, dann hast du die Daten zu übergeben.
Vollkommen egal, ob US Unternehmen, DE Unternehmen oder irgendeine andere beliebige Jurisdiktion.

Der Rest bzgl. Patriot Act ist eine beliebige Kombination aus Aberglaube und Unwissenheit.

Zum Thema - ehrlich gesagt eine ziemlich seltsame Frage: natürlich ist es grundsätzlich egal, ob dein Model in US, EU oder DE entwickelt wurde - deswegen will trotzdem jede Region an dem Thema mitarbeiten oder mitverdienen.
Du kannst genauso argumentieren: warum sollte man in DE Autos produzieren, wenn es auch welche aus Asien gibt?

Du musst doch als Regierung und Gesellschaft permanent versuchen, die heißen Themen in deiner Region anzusiedeln, um Attraktivität und Arbeitsplätze sicherzustellen.

Mal eine Frage an euch: KI aus Deutschland wird ja im Gegensatz zu der aus USA als irgendwie besser angesehen, weil vertrauenswürdiger. Ich verstehe das nicht ganz. Wenn doch mittlerweile amerikanische Unternehmen ihre Server hier haben und die Daten Europa gar nicht verlassen... und wenn doch auch Microsoft und Co. sagen, sie wollen sich an die europäischen KI-Regeln halten - wo ist dann noch Bedarf für rein deutsche KI? Außerdem nutzten sowieso alle Unternehmen MS Office, Teams usw.. Da fragt auch niemand danach, ob die Software europäisch ist.

Es gibt widersprüchliche Regelungen (zu den EU gesetzen)
Patriot act usw, bei denen die US Regierung auch auf ausländische Daten zugreifen kann, auch wenn diese auf Servern im Ausland unter anderer Gesetzeslage liegen.
Sehr naiv zu glauben die Daten seien sicher wenn sie auf einem Server in Frankfurt liegen.

Als Mitarbeiter von Google würde ich das auch sagen. Einfach mal Clarifying Lawful Overseas Use of Data Act lesen.
Grüße von einer Behörde.

WiWi Gast schrieb am 17.01.2024:

Mal eine Frage an euch: KI aus Deutschland wird ja im Gegensatz zu der aus USA als irgendwie besser angesehen, weil vertrauenswürdiger. Ich verstehe das nicht ganz. Wenn doch mittlerweile amerikanische Unternehmen ihre Server hier haben und die Daten Europa gar nicht verlassen... und wenn doch auch Microsoft und Co. sagen, sie wollen sich an die europäischen KI-Regeln halten - wo ist dann noch Bedarf für rein deutsche KI? Außerdem nutzten sowieso alle Unternehmen MS Office, Teams usw.. Da fragt auch niemand danach, ob die Software europäisch ist.

Keine Ahnung wovon du sprichst. Welche KI aus Deutschland gibt es denn? Also ich wüsste jetzt unbedingt an welches Unternehmen man denken könnte.

Facebook/Meta hat vor kurzem gepostet, dass die demnächst ca. 600k H100 Grafikkarten haben werden. Allein so etwas aufzubauen kostet wohl mehr als einige Dax Konzerne... Also sehe eig. kein einziges Unternehmen in Deutschland das annährend so viel bereit ist zu investieren. Aktuell sind die größten Fortschritte durch pure Rechenkraft gegeben und das kostet nun Mal.

Es würde mich sehr wundern, wenn Google oder andere Unternehmen jedem Gerichtsurteil aus jedem Land der Welt einfach nachkommen, als ob das völlig normal wäre. Gerichte in den USA haben da einen anderen Stellenwert als z.B. Gerichte in Ruanda, da die US Regierung die Möglichkeit hat, jedem Unternehmen mit hohem Umsatz in den USA irreparablen Schaden zuzufügen.

Das ist vergleichbar zu dem Schweizer Bankgeheimnis, das auf Druck der USA gefallen ist, da sonst die Schweizer Banken ihr US Geschäft verloren hätten. Über eine vergleichbare Drohung aus Ruanda hätten die Schweizer herzlich gelacht.

Ebenso sind Rechenzentrumsanbieter, dir nur in einer Jurisdiktion mit ausgeprägten Datenschutzgesetzen tätig sind, in einer anderen Position als global tätige Rechenzentrumsanbieter. Kam doch z.B. im Zusammenhang mit Wikileaks hoch, dass es schon einen Unterschied mach, ob Rechenzentrum in Schweden, Island oder den USA steht.

Logischerweise kenn ich den CLOUD Act.
Wo steht das aber im Widerspruch mit meiner Aussage?
Ja, wenn ein Gericht ein “lawful data request” an uns oder jeden anderen Cloud-Anbieter oder jeden anderen Rechenzentrumsanbieter stellt, dann müssen die Daten übergeben werden.

Deswegen können wir sie trotzdem nicht entschlüsseln WEIL WIR DEN SCHLÜSSEL NICHT HABEN - d.h., bei der Übergabe sind wir zwingend auf Kooperation mit dem Kunden angewiesen.

Was ist denn für ein konspirativer Dünnpfiff wenn tatsächlich noch jemand glaubt, das wir einfach durch eine angebliche Hintertür der US-Regierung vollen Datenzugriff geben würden.

WiWi Gast schrieb am 18.01.2024:

Voice of Reason schrieb am 18.01.2024:

Tatsächlich gar nicht so naiv.
Die Daten sind verschlüsselt und der Kunde hat den Schlüssel.
Klar können wir verschlüsselte Daten weiterleiten, wenn wir eine gerichtliche Anordnung erhalten.
Deswegen kann es aber trotzdem niemand entschlüsseln.

Übrigens - das ist auch nicht anders als bei jedem anderen Datacenter Anbieter und selbst bei jedem Unternehmen, dass seine Daten selber hosted.
Bekommst du eine valide gerichtliche Verfügung, dass Du Daten zu übergeben hast, dann hast du die Daten zu übergeben.
Vollkommen egal, ob US Unternehmen, DE Unternehmen oder irgendeine andere beliebige Jurisdiktion.

Der Rest bzgl. Patriot Act ist eine beliebige Kombination aus Aberglaube und Unwissenheit.

Zum Thema - ehrlich gesagt eine ziemlich seltsame Frage: natürlich ist es grundsätzlich egal, ob dein Model in US, EU oder DE entwickelt wurde - deswegen will trotzdem jede Region an dem Thema mitarbeiten oder mitverdienen.
Du kannst genauso argumentieren: warum sollte man in DE Autos produzieren, wenn es auch welche aus Asien gibt?

Du musst doch als Regierung und Gesellschaft permanent versuchen, die heißen Themen in deiner Region anzusiedeln, um Attraktivität und Arbeitsplätze sicherzustellen.

Mal eine Frage an euch: KI aus Deutschland wird ja im Gegensatz zu der aus USA als irgendwie besser angesehen, weil vertrauenswürdiger. Ich verstehe das nicht ganz. Wenn doch mittlerweile amerikanische Unternehmen ihre Server hier haben und die Daten Europa gar nicht verlassen... und wenn doch auch Microsoft und Co. sagen, sie wollen sich an die europäischen KI-Regeln halten - wo ist dann noch Bedarf für rein deutsche KI? Außerdem nutzten sowieso alle Unternehmen MS Office, Teams usw.. Da fragt auch niemand danach, ob die Software europäisch ist.

Es gibt widersprüchliche Regelungen (zu den EU gesetzen)
Patriot act usw, bei denen die US Regierung auch auf ausländische Daten zugreifen kann, auch wenn diese auf Servern im Ausland unter anderer Gesetzeslage liegen.
Sehr naiv zu glauben die Daten seien sicher wenn sie auf einem Server in Frankfurt liegen.

Als Mitarbeiter von Google würde ich das auch sagen. Einfach mal Clarifying Lawful Overseas Use of Data Act lesen.
Grüße von einer Behörde.

Steht doch sogar schon hier im Thread.
Aleph Alpha insbesondere.
Richtig guter Laden mit herausragender Technologie.
Jonas macht sehr viel richtig, war gerade in Davos auf der Bühne…

Es gibt noch einige mehr, aber keine mit einer Reichweite und Relevanz wie AA

WiWi Gast schrieb am 19.01.2024:

Mal eine Frage an euch: KI aus Deutschland wird ja im Gegensatz zu der aus USA als irgendwie besser angesehen, weil vertrauenswürdiger. Ich verstehe das nicht ganz. Wenn doch mittlerweile amerikanische Unternehmen ihre Server hier haben und die Daten Europa gar nicht verlassen... und wenn doch auch Microsoft und Co. sagen, sie wollen sich an die europäischen KI-Regeln halten - wo ist dann noch Bedarf für rein deutsche KI? Außerdem nutzten sowieso alle Unternehmen MS Office, Teams usw.. Da fragt auch niemand danach, ob die Software europäisch ist.

Keine Ahnung wovon du sprichst. Welche KI aus Deutschland gibt es denn? Also ich wüsste jetzt unbedingt an welches Unternehmen man denken könnte.

Facebook/Meta hat vor kurzem gepostet, dass die demnächst ca. 600k H100 Grafikkarten haben werden. Allein so etwas aufzubauen kostet wohl mehr als einige Dax Konzerne... Also sehe eig. kein einziges Unternehmen in Deutschland das annährend so viel bereit ist zu investieren. Aktuell sind die größten Fortschritte durch pure Rechenkraft gegeben und das kostet nun Mal.

WiWi Gast schrieb am 18.01.2024:

Voice of Reason schrieb am 18.01.2024:

Tatsächlich gar nicht so naiv.
Die Daten sind verschlüsselt und der Kunde hat den Schlüssel.
Klar können wir verschlüsselte Daten weiterleiten, wenn wir eine gerichtliche Anordnung erhalten.
Deswegen kann es aber trotzdem niemand entschlüsseln.

Übrigens - das ist auch nicht anders als bei jedem anderen Datacenter Anbieter und selbst bei jedem Unternehmen, dass seine Daten selber hosted.
Bekommst du eine valide gerichtliche Verfügung, dass Du Daten zu übergeben hast, dann hast du die Daten zu übergeben.
Vollkommen egal, ob US Unternehmen, DE Unternehmen oder irgendeine andere beliebige Jurisdiktion.

Der Rest bzgl. Patriot Act ist eine beliebige Kombination aus Aberglaube und Unwissenheit.

Zum Thema - ehrlich gesagt eine ziemlich seltsame Frage: natürlich ist es grundsätzlich egal, ob dein Model in US, EU oder DE entwickelt wurde - deswegen will trotzdem jede Region an dem Thema mitarbeiten oder mitverdienen.
Du kannst genauso argumentieren: warum sollte man in DE Autos produzieren, wenn es auch welche aus Asien gibt?

Du musst doch als Regierung und Gesellschaft permanent versuchen, die heißen Themen in deiner Region anzusiedeln, um Attraktivität und Arbeitsplätze sicherzustellen.

Mal eine Frage an euch: KI aus Deutschland wird ja im Gegensatz zu der aus USA als irgendwie besser angesehen, weil vertrauenswürdiger. Ich verstehe das nicht ganz. Wenn doch mittlerweile amerikanische Unternehmen ihre Server hier haben und die Daten Europa gar nicht verlassen... und wenn doch auch Microsoft und Co. sagen, sie wollen sich an die europäischen KI-Regeln halten - wo ist dann noch Bedarf für rein deutsche KI? Außerdem nutzten sowieso alle Unternehmen MS Office, Teams usw.. Da fragt auch niemand danach, ob die Software europäisch ist.

Es gibt widersprüchliche Regelungen (zu den EU gesetzen)
Patriot act usw, bei denen die US Regierung auch auf ausländische Daten zugreifen kann, auch wenn diese auf Servern im Ausland unter anderer Gesetzeslage liegen.
Sehr naiv zu glauben die Daten seien sicher wenn sie auf einem Server in Frankfurt liegen.

Als Mitarbeiter von Google würde ich das auch sagen. Einfach mal Clarifying Lawful Overseas Use of Data Act lesen.
Grüße von einer Behörde.

Ich wundere mich manchmal, wie limitiert die medial als allmächtig dargestellten Behörden von Übersee doch manchmal sind in technischen Dingen. Man neigt dazu, deren Kapazitäten für gezielte hands-on Arbeit, wo vielleicht etwas mehr möglich ist, zu überschätzen. Mit dem großen Staubsauger werden zumindest keine verschlüsselten Daten geknackt. Daher kann ich Voice of Reason nur zustimmen und bitte um weniger Meinung und mehr Tatsachen.
Grüße aus einer Behörde, die es wissen muss.

Ich wundere mich manchmal, wie limitiert die medial als allmächtig dargestellten Behörden von Übersee doch manchmal sind in technischen Dingen. Man neigt dazu, deren Kapazitäten für gezielte hands-on Arbeit, wo vielleicht etwas mehr möglich ist, zu überschätzen. Mit dem großen Staubsauger werden zumindest keine verschlüsselten Daten geknackt. Daher kann ich Voice of Reason nur zustimmen und bitte um weniger Meinung und mehr Tatsachen.
Grüße aus einer Behörde, die es wissen muss.

Wenn du in einer deutschen Behörde arbeitest, hast du ganz sicher keinen Einblick in die Fähigkeiten der NSA, sondern bist eher ein potentielles Ziel für sie.

Die Geschichte der Kryptographie zeigt eigentlich klar, dass ein völliges Vertrauen in eine Verschlüsselungs-Technologie sehr naiv ist. Das bedeutet nicht,. dass alle Sicherheitsmaßnahmen problemlos umgangen werden können. Aber verschlüsselt = sicher passt auch nicht.

Voice of Reason schrieb am 19.01.2024:

Steht doch sogar schon hier im Thread.
Aleph Alpha insbesondere.
Richtig guter Laden mit herausragender Technologie.
Jonas macht sehr viel richtig, war gerade in Davos auf der Bühne…

Es gibt noch einige mehr, aber keine mit einer Reichweite und Relevanz wie AA

Welche denn?

Finde es gut, dass AA es versucht. Jedoch haben die wirklich was relevantes produziert? Ich meine etwas was wirklich konkurrenzfähig ist?
Auf deren Webseite sehe ich kein Produkt, welches man kaufen kann.

Voice of Reason schrieb am 19.01.2024:

Steht doch sogar schon hier im Thread.
Aleph Alpha insbesondere.
Richtig guter Laden mit herausragender Technologie.
Jonas macht sehr viel richtig, war gerade in Davos auf der Bühne…

Es gibt noch einige mehr, aber keine mit einer Reichweite und Relevanz wie AA

Trotzdem ist Aleph Alpha nur ein kleiner Fisch und wird niemals über den Status als Nischenprodukt für hochregulierte Bereiche mit sehr hohen Compliance-Anforderungen auf nationaler Ebene hinaus kommen.

Zum Vergleich: Aleph Alpha hat ein Funding von 500 Mio. EUR erhalten. Meta hat diese Woche angekündigt, 350000 neue H100 Grafikkarten von Nvidia einzukaufen (zusätzlich zu 250000 bestehenden GPUs) - Kostenpunkt > 10 Mrd. US-Dollar. Diese Rechenkapazitäten sollen bis Ende 2024 dazu genutzt werden können, um neue Modelle zu trainieren und die Rechenkapazität von Meta liegt dann deutlich über der von Microsoft und Google - und das obwohl Meta keine eigene Cloud-Plattform betreibt. Mit 500 Mio. EUR ist es bei Weitem nicht einmal möglich, die Rechenkapazitäten für das Training von GPT-4 (etwa 20.000 - 35.000 A100 GPUs, das Vorgängermodell der H100) aufzubauen.

Wir haben Aleph Alpha bei unserer Partnerauswahl im Konzern evaluiert und wer denkt, dass die Modelle von denen mit den Big-Playern aus der USA mithalten können, liegt gewaltig daneben. Das ist ein Nischenprodukt, dessen USP sich um Ängste rund um Datenhoheit und Compliance bewegt. Kein europäisches Unternehmen wird da mithalten können, sofern es nicht Milliarden an Steuergeldern regnet - und selbst dann sind die führenden Researcher weiterhin in der USA beschäftigt und lediglich ein infrastrukturelles Nachziehen wäre möglich.

WiWi Gast schrieb am 19.01.2024:

Voice of Reason schrieb am 19.01.2024:

Steht doch sogar schon hier im Thread.
Aleph Alpha insbesondere.
Richtig guter Laden mit herausragender Technologie.
Jonas macht sehr viel richtig, war gerade in Davos auf der Bühne…

Es gibt noch einige mehr, aber keine mit einer Reichweite und Relevanz wie AA

Welche denn?

Finde es gut, dass AA es versucht. Jedoch haben die wirklich was relevantes produziert? Ich meine etwas was wirklich konkurrenzfähig ist?
Auf deren Webseite sehe ich kein Produkt, welches man kaufen kann.

Guck doch einfach mal bei Wikipedia, was da zu Aleph Alpha steht.

WiWi Gast schrieb am 19.01.2024:

Voice of Reason schrieb am 19.01.2024:

Steht doch sogar schon hier im Thread.
Aleph Alpha insbesondere.
Richtig guter Laden mit herausragender Technologie.
Jonas macht sehr viel richtig, war gerade in Davos auf der Bühne…

Es gibt noch einige mehr, aber keine mit einer Reichweite und Relevanz wie AA

Welche denn?

Finde es gut, dass AA es versucht. Jedoch haben die wirklich was relevantes produziert? Ich meine etwas was wirklich konkurrenzfähig ist?
Auf deren Webseite sehe ich kein Produkt, welches man kaufen kann.

Nein einfach lachhaft kommt nicht einmal an bestimmte llama Modelle ran. Mixtral ist aber gut dabei aber selbst die sind noch Meilenweit von OpenAI entfernt und bei den Investitionen wird der Abstand nur größer..Wir müssten jetzt als EU mindestens 10mrd commiten dann wären wir vielleicht konkurrenzfähig.Wird nicht passieren

WiWi Gast schrieb am 19.01.2024:

Voice of Reason schrieb am 19.01.2024:

Steht doch sogar schon hier im Thread.
Aleph Alpha insbesondere.
Richtig guter Laden mit herausragender Technologie.
Jonas macht sehr viel richtig, war gerade in Davos auf der Bühne…

Es gibt noch einige mehr, aber keine mit einer Reichweite und Relevanz wie AA

Welche denn?

Finde es gut, dass AA es versucht. Jedoch haben die wirklich was relevantes produziert? Ich meine etwas was wirklich konkurrenzfähig ist?
Auf deren Webseite sehe ich kein Produkt, welches man kaufen kann.

Es geht auch eher um das Finetuning von Modellen. Und hier vertrauen die deutschen Unternehmen nunmal nicht jedem. Nyonic würde mir noch einfallen. Oder wen gibt es da noch?

WiWi Gast schrieb am 19.01.2024:

Voice of Reason schrieb am 19.01.2024:

Steht doch sogar schon hier im Thread.
Aleph Alpha insbesondere.
Richtig guter Laden mit herausragender Technologie.
Jonas macht sehr viel richtig, war gerade in Davos auf der Bühne…

Es gibt noch einige mehr, aber keine mit einer Reichweite und Relevanz wie AA

Welche denn?

Finde es gut, dass AA es versucht. Jedoch haben die wirklich was relevantes produziert? Ich meine etwas was wirklich konkurrenzfähig ist?
Auf deren Webseite sehe ich kein Produkt, welches man kaufen kann.

Es geht auch eher um das Finetuning von Modellen. Und hier vertrauen die deutschen Unternehmen nunmal nicht jedem. Nyonic würde mir noch einfallen. Oder wen gibt es da noch?

Wieso sollte man fürs Fine-Tuning ein Unternehmen wie Aleph Alpha oder Nyonic in Betracht ziehen, wenn man weitaus bessere Open-Source-Modelle (z.B. LLaMA-2) kostenlos bekommt und diese dann einfach auf eigenen Hardware-Kisten finetunen und deployen kann?

WiWi Gast schrieb am 19.01.2024:

Voice of Reason schrieb am 19.01.2024:

Steht doch sogar schon hier im Thread.
Aleph Alpha insbesondere.
Richtig guter Laden mit herausragender Technologie.
Jonas macht sehr viel richtig, war gerade in Davos auf der Bühne…

Es gibt noch einige mehr, aber keine mit einer Reichweite und Relevanz wie AA

Welche denn?

Finde es gut, dass AA es versucht. Jedoch haben die wirklich was relevantes produziert? Ich meine etwas was wirklich konkurrenzfähig ist?
Auf deren Webseite sehe ich kein Produkt, welches man kaufen kann.

Nein einfach lachhaft kommt nicht einmal an bestimmte llama Modelle ran. Mixtral ist aber gut dabei aber selbst die sind noch Meilenweit von OpenAI entfernt und bei den Investitionen wird der Abstand nur größer..Wir müssten jetzt als EU mindestens 10mrd commiten dann wären wir vielleicht konkurrenzfähig.Wird nicht passieren

Die haben vor 2 Monaten nicht 500 Millionen bekommen, da ihr Produkt lachhaft ist.

WiWi Gast schrieb am 19.01.2024:

Voice of Reason schrieb am 19.01.2024:

Steht doch sogar schon hier im Thread.
Aleph Alpha insbesondere.
Richtig guter Laden mit herausragender Technologie.
Jonas macht sehr viel richtig, war gerade in Davos auf der Bühne…

Es gibt noch einige mehr, aber keine mit einer Reichweite und Relevanz wie AA

Welche denn?

Finde es gut, dass AA es versucht. Jedoch haben die wirklich was relevantes produziert? Ich meine etwas was wirklich konkurrenzfähig ist?
Auf deren Webseite sehe ich kein Produkt, welches man kaufen kann.

Nein einfach lachhaft kommt nicht einmal an bestimmte llama Modelle ran. Mixtral ist aber gut dabei aber selbst die sind noch Meilenweit von OpenAI entfernt und bei den Investitionen wird der Abstand nur größer..Wir müssten jetzt als EU mindestens 10mrd commiten dann wären wir vielleicht konkurrenzfähig.Wird nicht passieren

Die haben vor 2 Monaten nicht 500 Millionen bekommen, da ihr Produkt lachhaft ist.

Mixtral ist ja gut ... habe nie was anderes behauptet

WiWi Gast schrieb am 19.01.2024:

Voice of Reason schrieb am 19.01.2024:

Steht doch sogar schon hier im Thread.
Aleph Alpha insbesondere.
Richtig guter Laden mit herausragender Technologie.
Jonas macht sehr viel richtig, war gerade in Davos auf der Bühne…

Es gibt noch einige mehr, aber keine mit einer Reichweite und Relevanz wie AA

Welche denn?

Finde es gut, dass AA es versucht. Jedoch haben die wirklich was relevantes produziert? Ich meine etwas was wirklich konkurrenzfähig ist?
Auf deren Webseite sehe ich kein Produkt, welches man kaufen kann.

Es geht auch eher um das Finetuning von Modellen. Und hier vertrauen die deutschen Unternehmen nunmal nicht jedem. Nyonic würde mir noch einfallen. Oder wen gibt es da noch?

Wieso sollte man fürs Fine-Tuning ein Unternehmen wie Aleph Alpha oder Nyonic in Betracht ziehen, wenn man weitaus bessere Open-Source-Modelle (z.B. LLaMA-2) kostenlos bekommt und diese dann einfach auf eigenen Hardware-Kisten finetunen und deployen kann?

Vielleicht weil das Feintuning umso besser ist, je mehr Daten man hat und wenn man es nur alleine macht, hat man weniger Daten.

WiWi Gast schrieb am 19.01.2024:

Nein einfach lachhaft kommt nicht einmal an bestimmte llama Modelle ran. Mixtral ist aber gut dabei aber selbst die sind noch Meilenweit von OpenAI entfernt und bei den Investitionen wird der Abstand nur größer..Wir müssten jetzt als EU mindestens 10mrd commiten dann wären wir vielleicht konkurrenzfähig.Wird nicht passieren

Die haben vor 2 Monaten nicht 500 Millionen bekommen, da ihr Produkt lachhaft ist.

Mixtral ist ja gut ... habe nie was anderes behauptet

Geht ja auch um Aleph Alpha.

WiWi Gast schrieb am 19.01.2024:

Nein einfach lachhaft kommt nicht einmal an bestimmte llama Modelle ran. Mixtral ist aber gut dabei aber selbst die sind noch Meilenweit von OpenAI entfernt und bei den Investitionen wird der Abstand nur größer..Wir müssten jetzt als EU mindestens 10mrd commiten dann wären wir vielleicht konkurrenzfähig.Wird nicht passieren

Die haben vor 2 Monaten nicht 500 Millionen bekommen, da ihr Produkt lachhaft ist.

Mixtral ist ja gut ... habe nie was anderes behauptet

Geht ja auch um Aleph Alpha.

Die Modelle von Aleph Alpha sind nicht mal mit GPT3 von 2020 konkurrenzfähig - und sie wurden deshalb ja auch von der Website genommen.

Bis Aleph Alpha neue Modelle zeigt die zumindest auf dem 2023er Leistungsniveau ist, ist es für mich reines Grift

WiWi Gast schrieb am 20.01.2024:

Nein einfach lachhaft kommt nicht einmal an bestimmte llama Modelle ran. Mixtral ist aber gut dabei aber selbst die sind noch Meilenweit von OpenAI entfernt und bei den Investitionen wird der Abstand nur größer..Wir müssten jetzt als EU mindestens 10mrd commiten dann wären wir vielleicht konkurrenzfähig.Wird nicht passieren

Die haben vor 2 Monaten nicht 500 Millionen bekommen, da ihr Produkt lachhaft ist.

Mixtral ist ja gut ... habe nie was anderes behauptet

Geht ja auch um Aleph Alpha.

Die Modelle von Aleph Alpha sind nicht mal mit GPT3 von 2020 konkurrenzfähig - und sie wurden deshalb ja auch von der Website genommen.

Bis Aleph Alpha neue Modelle zeigt die zumindest auf dem 2023er Leistungsniveau ist, ist es für mich reines Grift

Ich arbeite in dem Bereich mehr oder weniger direkt was Aleph Alpha da macht ist fast schon peinlich. Zum Glück hat Frankreich wenigstens einen ernstzunehmenden Kandidaten. Aber mal wieder typisch dass Deutschland auch hier Schlusslicht ist.

So lange die Modelle nur per brute force nach statistisch signifikanten Zusammenhängen in der Reihenfolge von Datenpunkten suchen können dürfte der Nutzen zusätzlicher Daten oder von mehr Rechenleistung schnell abnehmend sein. Man kommt einfach an Grenzen.

Wenn Unternehmen a für alles Geld der Welt alle Grafikkarten der Welt kauft und rechnen lässt, dann wäre es Unternehmen b, dass ein Modell hat - wenn so was möglich ist - das nicht anhand von Daten, sondern auch anhand von Interaktion und Praktiken lernt, weit unterlegen.

Vereinfacht gesagt: der Technologiesprung wäre es ja, wenn zum „Trainieren“ von Modellen kaum noch Daten notwendig sind.
Man kann bspw. eine KI alle statistisch signifikanten Zusammenhänge aus allen denkbaren physikalischen Experimenten rechnen lassen. Mega Aufwand. Und bekommt ein Aussagensystem, das die Naturgesetze repräsentiert. Die sind ja auch nur ein Gebilde statistisch signifikanter Zusammenhänge.

Oder: man bekommt es hin eine KI zu haben, die mit einer überschaubaren Anzahl an Experimenten und Informationen über Zusammenhänge eine allgemeine Theorie aufstellt. Bspw. Newtonsche Physik. Und damit weite und viele Fragen über die Welt beantworten kann ohne hierfür mit spezifischen Daten trainiert worden zu sein. KI Modelle bekommen das momentan nur auf dem Gebiet der Logik hin. Also logisches Schließen aus Aussagen. Aber es fehlt das Verstehen dieses Schließens.

Ich will sagen: meine Vermutung ist, dass es sich schnell herausstellen kann, dass nicht gekaufte Rechenleistung entscheidend ist, sondern so etwas wie Lerneffizienz oder Methode.

Wie viele Mönche hat dieses oder jenes Kloster um Abschriften anfertigen zu lassen? Dieses hat gerade alle Mönche von NVidia gekauft. Für Milliarden! Uneinholbar!

Im anderen Kloster gab es einen Mann namens Gutenberg.

Allerdings: selbst wenn ich mir gut vorstellen kann, dass man in D bei einem solchen nächsten Forschungssprung vorne dabei ist: die Druckerpressen werden dann in den USA gebaut und die neue Technologie wird dort gewinnbringend eingesetzt und marktorientiert entwickelt. Während die EU eine Regulierung einführt, dass jedes in der EU gedruckte Buch mindestens in 500 facher handschriftlicher Abschrift vorzulegen ist, bevor es verkauft werden darf. Und in Blindenschrift und eine Ökozertifikat braucht.

WiWi Gast schrieb am 20.01.2024:

So lange die Modelle nur per brute force nach statistisch signifikanten Zusammenhängen in der Reihenfolge von Datenpunkten suchen können dürfte der Nutzen zusätzlicher Daten oder von mehr Rechenleistung schnell abnehmend sein. Man kommt einfach an Grenzen.

Da habe ich schon aufgehört zu lesen. Den genau das Gegenteil wurde empirsch belegt.
GPT-1 -> GPT-2 -> GPT-3 -> GPT-4

Mit jeder Generation wurde das Modell besser. Es gibt zahlreiche Studien und paper die erstaunlich genau vorhersagen wie sich die "Loss Funktion" mit mehr Rechenpower und mehr Daten verbessert. Aktuell ist vor allem Rechenpower der limitierte Faktor. Eine Grenze oder irgendwie Abnahme war bisher nicht zu erkennen. Jetzt könnte man diskutieren welche "Fähigkeiten" mit einer reduzierung der "Loss Funktion" einhergehen - das kann man tatsächlich nicht sagen. Die Modell werden aber besser, das ist sicher.