Edukacja najnowszego flagowego modelu sztucznej inteligencji Claude 3.7 Sonet kosztował firmę antropijną, która rozwinęła ją tylko w „kilku dziesiątkach milionów dolarów” i wymagała mniej niż 1014 TFLOPS Power.
Powiedział to profesor Worton Business School (USA) Ethana Mollicka, który zacytował wyjaśnienie przedstawione przez antropiczny wydział public relations. „Przedstawiciele antropiczni skontaktowali się ze mną i powiedzieli, że Sonnet 3.7 nie powinien być uważany za model dla 1026 klap, a kosztował tylko kilka dziesiątek milionów dolarów”, powiedział naukowiec, dodając, że „przyszłe modele byłyby znacznie większe”.
Jeśli założymy, że szkolenie antropic Claude 3.7 Sonnet naprawdę kosztowało firmę „zaledwie kilka dziesiątek milionów dolarów” bez jednoczesnych wydatków, koszt rozwoju systemów naprawdę zaczyna się spadać. Szkolenie jej poprzednika, która została opublikowana w zeszłym roku – średnio sonetowy model Claude 3.5 – kosztował podobną kwotę, powiedział antropiczny dyrektor generalny Dario Amodei. Dla porównania Openai ma 100 milionów dolarów na rozwój GPT-4, a Google wydał około 200 milionów dolarów na szkolenie Gemini Ultra.
Jednak długoterminowy spadek kosztów szkolenia AI, jednak Amodea nie oczekuje – będą one już kosztować miliardy dolarów, a to nie jest ten, którego nie uwzględnia kosztów testowania bezpieczeństwa i podstawowych badań. Teraz odwołanie obejmuje modele „rozumowania”, które są dłuższe dla żądań, co oznacza, że sztuczna inteligencja będzie wymagała większej liczby zasobów obliczeniowych.
