← Powrót do encyklopedii

Model fundamentalny (foundation model)

Duży model wytrenowany wstępnie na ogromnej ilości danych, służący jako uniwersalna baza, którą można dostroić do konkretnych zadań robota.

Model fundamentalny (ang. foundation model) to duży model uczenia maszynowego wytrenowany wstępnie na ogromnym i zróżnicowanym zbiorze danych, tak aby uzyskał szeroką „wiedzę ogólną”, którą następnie można dostroić (fine-tunować) do wielu konkretnych zadań. Termin spopularyzował Stanford w 2021 roku; najbardziej znani przedstawiciele to wielkie modele językowe, takie jak rodzina, z której wywodzi się również ten asystent. Kluczowa myśl: zamiast trenować nowy model od zera dla każdego zadania, buduje się jeden silny fundament i go dostosowuje.

W robotyce modele fundamentalne stały się gorącym tematem, bo obiecują rozwiązanie chronicznego niedoboru danych. Danych robotycznych jest rzędami wielkości mniej niż tekstu i obrazów z internetu, więc model, który już „rozumie świat” dzięki danym internetowym, ma ogromną przewagę — nie musi uczyć się od zera, czym jest kubek czy drzwi. Robotyczne modele fundamentalne przybierają często postać modeli VLA, które do widzenia i języka dodają działanie.

Sztandarowym przykładem jest otwarty NVIDIA Isaac GR00T N1, prezentowany jako pierwszy otwarty model fundamentalny dla robotów humanoidalnych — jest „cross-embodiment”, czyli zaprojektowany tak, by działał na różnych ciałach robotów, i wytrenowany wstępnie na mieszance realnych demonstracji, filmów internetowych oraz danych syntetycznych z symulacji. Figure buduje własny model Helix, wywodzący się z wytrenowanej wcześniej części vision-language.

Słowo „foundation” jest dziś zarazem popularnym terminem marketingowym, dlatego przy konkretnych produktach wskazana jest ostrożność. Prawdziwy model fundamentalny rozpoznaje się po tym, że generalizuje na zadania, do których nie był bezpośrednio trenowany — nie po tym, jak go nazwie producent. Wiąże się z koncepcją ucieleśnionej AI oraz modeli świata.

Powiązane roboty

Powiązane pojęcia