Microsoft и OpenAI наскоро обявиха своето масивно съвместно предприятие на стойност 100 милиарда долара за изграждане на супермощен AI суперкомпютър и гигантски център за данни за обучение на супер интелигентни AI модели. Този амбициозен план обещава да създаде истински пробиви в областта на AI и да укрепи позицията на Microsoft и OpenAI като лидери в индустрията.
Но Google DeepMind реши да влезе в играта с доста смел ход: да обезцени инвестициите на конкурентите, като създаде отворена система за обучение на суперинтелигентен AI, разпространен по целия свят - DiPaCo (Distributed Path Composition).
Същността на DiPaCo е разпределеното обучение на невронни мрежи, използвайки всички налични изчислителни ресурси по света. Тази технология ще позволи на невронните мрежи да се мащабират до невероятни размери без ограниченията, присъщи на централизираните системи. Това е като поток в света на невроните.
Ключовите елементи на DiPaCo са два алгоритъма: DiLoCo, който отговаря за паралелизиране на процесите за обработка на разпределени данни, и самият DiPaCo, който поема паралелизиране на процесите на обучение на модели. Заедно те образуват мощен инструмент за създаване на супер-интелигентни AI модели.
Успехът на DiPaCo може не само да постави под въпрос ефективността на многомилиардните инвестиции на Microsoft и OpenAI, но и да промени самата парадигма на развитието на изкуствения интелект. Този проект има потенциала да демократизира достъпа до обучение на супер-умни модели и като цяло да разбие монопола на тези гиганти в областта на невронните мрежи, което може да доведе до бърз напредък в областта на AI.
Освен това DiPaCo може да усложни задачата на правителствата (особено на САЩ и Китай), които се стремят да контролират развитието на AI чрез регулиране на най-големите центрове за обучение на модели. Разпределеният характер на DiPaCo прави този контрол много по-сложен и по-малко ефективен.
Можете да видите как работи това в проучване на Google DeepMind. И можете да разгледате изследването в снимки в публикацията на водещия автор на проекта Артър Дуилард.
Ще наблюдаваме развитието на ситуацията!
bbabo.Net