W dobie dynamicznego rozwoju sztucznej inteligencji bezpieczeństwo danych i dostęp do zaawansowanych narzędzi analitycznych są kluczowe dla postępu w nauce. Z pełnym zrozumieniem tych potrzeb ACK Cyfronet AGH uruchomił oficjalnie usługę LokAI – wirtualnego asystenta AI w pełni zintegrowanego ze środowiskiem PLGrid. Inicjatywa ta stanowi polski wkład w europejską infrastrukturę zaawansowanych obliczeń i sztucznej inteligencji LUMI AI Factory (LAIF), oferując naukowcom, studentom i badaczom nowe, bezpieczne narzędzie do wsparcia codziennej pracy.
Bezpieczeństwo danych priorytetem
Główną cechą, która wyróżnia usługę LokAI od komercyjnych asystentów dostępnych w chmurze publicznej, jest jej architektura. Wszystkie procesy – od generowania odpowiedzi, przez analizę dokumentów, aż po inferencję modeli – odbywają się wewnątrz infrastruktury Cyfronetu.
Trzy modele dopasowane do różnych zadań:
- „Pro”: to wszechstronny model do codziennej pracy z tekstem, tłumaczeniami i danymi, a także obsługą obrazów (multimodalność).
- „Pro Thinking”: radzi sobie z głębszą analizą, złożonym programowaniem i rozwiązywaniem problemów logicznych.
- „Mini PL”: to szybki, natywnie polski model do streszczeń, korekty i krótkich notatek.
Pełna suwerenność danych: żadne dane, pliki ani historia rozmów nie opuszczają bezpiecznego środowiska polskiej infrastruktury obliczeniowej.
Poufność: możliwość bezpiecznej pracy nad nieopublikowanymi wynikami badań bez ryzyka wycieku informacji. Dane przekazane przez użytkowników w żaden sposób nie służą do dalszego trenowania modeli.
Zgodność z zasadami RODO i bezpieczeństwem UE: lokalne przetwarzanie gwarantuje zgodność z rygorystycznymi wymogami prawnymi i standardami europejskimi.
Dzięki LokAI naukowcy zyskują potężne narzędzie AI, które nie naraża poufności prowadzonych przez nich projektów.
Funkcjonalności wspierające codzienną pracę (nie tylko) badawczą
LokAI to wszechstronny asystent AI, który sprawdza się zarówno w codziennych zadaniach, jak i w pracy wymagającej wiedzy specjalistycznej. Łączy możliwości zaawansowanych modeli językowych z funkcjami, które pozwalają dostosować go do konkretnego projektu. Narzędzie jest kierowane przede wszystkim do naukowców korzystających z zasobów infrastruktury PLGrid. Niemniej, LokAI może być też wykorzystywany przez MŚP i podmioty administracji publicznej w ramach Proof-of-Concept (POC).
Oto kluczowe obszary zastosowania:
1. Analiza dokumentacji i wiedza kontekstowa (RAG)
Funkcja przeszukiwania plików pozwala użytkownikowi na wgranie do systemu własnych materiałów, takich jak: oficjalna dokumentacja, notatki, artykuły czy raporty. Dzięki temu asystent może analizować treści bezpośrednio z tych źródeł.
Praca w tym trybie umożliwia użytkownikowi uzyskiwanie bardziej precyzyjnych odpowiedzi, ponieważ LokAI udziela ich wyłącznie na podstawie dostarczonych plików, co minimalizuje ryzyko błędów i „halucynacji". Ponadto użytkownicy mogą prowadzić rozmowy o treści własnych dokumentów lub łączyć informacje z różnych plików w logiczną całość.
Dzięki możliwości stworzenia własnej bazy wiedzy asystent staje się narzędziem pracującym na zbiorze danych określonym przez użytkownika, a nie jedynie na ogólnej wiedzy modelu.
Przykładem zastosowań może być wsparcie przygotowania dokumentacji konkursowej w oparciu o wytyczne techniczne i merytoryczne, analiza zgodności planowanych działań z regulaminami czy wyszukiwanie błędów w przygotowywanych publikacjach dzięki zestawieniu tworzonej treści z danymi z innych plików.
2. Własny ekspert w dowolnej dziedzinie
W zakładce „Agenci" można tworzyć wyspecjalizowane instancje asystenta dostrojone do konkretnego kontekstu: zespołu badawczego, działu prawnego, projektu inżynierskiego, obsługi klastrów HPC czy dokumentacji wewnętrznej firmy. Każdy agent ma własny prompt systemowy i własną bazę wiedzy, więc może pełnić rolę eksperta tam, gdzie ogólny model nie wystarczy.
3. Wsparcie techniczne i rozwiązywanie problemów
LokAI pełni rolę eksperta, który pomaga w:
- Konfiguracji środowisk obliczeniowych i zarządzaniu zadaniami (job scheduling) na klastrach PLGrid,
- Analizie błędów systemowych i logów, przyspieszając proces debugowania skryptów symulacyjnych,
- Dostępie do wiedzy o systemach plików, migracji danych i optymalizacji zasobów.
4. Edukacja i rozwój kompetencji
Dla studentów i młodych badaczy asystent jest dostępny 24/7, aby wyjaśniać:
- Zawiłości programowania równoległego (MPI, OpenMP, CUDA),
- Mechanizmy działania superkomputerów i architektur GPU,
- Najlepsze praktyki w zakresie wykorzystania mocy obliczeniowej w sposób efektywny kosztowo.
5. Asysta w kodowaniu i skryptowaniu
Asystent pomaga generować fragmenty kodu, skrypty uruchamiające zadania obliczeniowe, a także formułować wnioski z wyników symulacji, oszczędzając czas naukowców na żmudnych zadaniach administracyjnych.
Kontekst europejski: LokAI w projekcie LUMI AI Factory
Uruchomienie LokAI to jeden z elementów realizacji misji LUMI AI Factory (LAIF). Projekt ten integruje światowej klasy moc obliczeniową (w tym superkomputer LUMI), wysokowartościowe dane oraz ekspertów, tworząc ekosystem innowacji dla nauki i przemysłu.
Polska, poprzez udział ACK Cyfronet AGH w międzynarodowym konsorcjum LAIF, aktywnie wdraża te standardy na poziomie krajowym. Usługa LokAI stanowi praktyczny punkt dostępu dla polskich naukowców i przedsiębiorców do zasobów i wiedzy generowanych w ramach tej inicjatywy. Dzięki niej korzyści płynące z infrastruktury europejskiej, takie jak dostęp do najnowszych modeli AI i danych typu Datasets-as-a-Service, są bezpośrednio dostępne w bezpiecznym, lokalnym środowisku pracy.
Jak uzyskać dostęp do LokAI?
Jeśli jesteś naukowcem i posiadasz konto PLGrid: zaloguj się do Portalu PLGrid, przejdź do usługi „Dostęp do LokAI" i kliknij Aplikuj. Szczegółowa instrukcja wnioskowania o usługi dostępna jest w dokumentacji PLGrid.
Jeśli reprezentujesz przedsiębiorstwo lub podmiot administracji publicznej: skontaktuj się z nami pod adresem: lumi@cyfronet.pl.
Przyszłość wspierania nauki
Wdrożenie usługi LokAI to krok w stronę nowoczesnej, cyfrowej infrastruktury badawczej, która stawia na bezpieczeństwo, dostępność i efektywność. Łącząc potęgę sztucznej inteligencji z zaufaniem do lokalnej infrastruktury, ACK Cyfronet AGH tworzy warunki do przyspieszenia tempa odkryć naukowych w Polsce i Europie.
Zachęcamy wszystkich użytkowników PLGrid do wypróbowania LokAI i włączenia go do swojego codziennego użytku. To narzędzie, które nie tylko odpowiada na pytania, ale rozumie kontekst naukowy i techniczny, wspierając kreatywność i innowacyjność każdego badacza.
