Ukryte ryzyko związane z kodem generowanym przez sztuczną inteligencję
Niezależnie od tego, czy jesteś założycielem firmy, czy dyrektorem ds. technologii i pracujesz z kodem generowanym przez sztuczną inteligencję, ten artykuł jest dla Ciebie. W Appricotsoft przeanalizowaliśmy setki projektów MVP i aplikacji wspomaganych przez sztuczną inteligencję. Chociaż narzędzia do kodowania AI, takie jak Copilot i ChatGPT, przyspieszają pracę, stale generują poważne i często subtelne problemy, które mogą się odbić na późniejszym etapie życia.
Od zagrożeń dla bezpieczeństwa po koszmary związane z konserwacją – oto 20 najczęstszych problemów, na które natrafiamy podczas przeglądów kodu generowanych przez sztuczną inteligencję – i co z nimi zrobić.
Wprowadzenie: Dlaczego kod AI wymaga przeglądu przez człowieka
Narzędzia do kodowania oparte na sztucznej inteligencji to potężne akceleratory. Potrafią generować szablony, budować szkielety komponentów, a nawet sugerować pełne implementacje. Nie rozumieją jednak logiki biznesowej, kontekstu produktu ani planów skalowania na przyszłość. A bez odpowiedniego nadzoru ze strony człowieka to prosta droga do kłopotów.
W Appricotsoft wierzymy, że tworzenie oprogramowania, z którego można być dumnym, oznacza dostarczanie kodu, który jest czysty, łatwy w utrzymaniu i faktycznie rozwiązuje rzeczywiste problemy. Dlatego nasza usługa audytu kodu dla produktów generowanych przez sztuczną inteligencję koncentruje się na… “czy może się skalować, rozwijać i pozostać bezpieczny?” zamiast po prostu “czy działa?”
Ale co tak naprawdę obejmuje ten audyt kodu AI? Czy to tylko sprawdzenie błędów, czy coś bardziej szczegółowego?
Przyjrzyjmy się bliżej, na czym polega prawdziwy, profesjonalny audyt kodu wygenerowanego przez sztuczną inteligencję i dlaczego może to być najważniejsza rzecz, jaką należy zrobić przed uruchomieniem programu.
20 typowych problemów, które napotykamy podczas przeglądów kodu dla sztucznej inteligencji
1. Brak zrozumienia logiki biznesowej
Sztuczna inteligencja nie zna Twojego modelu biznesowego. Mamy tendencję do odkrywania ogólnego kodu, nie biorąc pod uwagę reguł obowiązujących w Twojej domenie. Istnieje ścisłe powiązanie. Funkcje będą kruche. Wtedy będzie to wymagało dodatkowej pracy w przyszłości.
2. Nadmierne projektowanie prostych zadań
Narzędzia uczenia maszynowego mają tendencję do tworzenia nadmiernie skomplikowanego kodu. Funkcja, która zajmowałaby 5 linijek kodu, teraz jest wypełniona niepotrzebnymi abstrakcjami.
3. Niezabezpieczone uwierzytelnianie i autoryzacja
“Zakodowane na stałe sekrety. Nieprawidłowo skonfigurowane role. Niezabezpieczone punkty końcowe. Widzieliśmy już wszystko – a zwłaszcza w przypadku MVP, które ominęły pełne przeglądy bezpieczeństwa”.”
4. Słaba obsługa błędów
Kod generowany przez sztuczną inteligencję ma naturalną tendencję do unikania błędów lub po prostu nieumyślnego zatrzymywania się.
5. Nieskalowalne struktury danych
Od nieoptymalnie indeksowanych zapytań po przechowywanie danych w pamięci wykorzystywane w logice trwałej — ścieżka, którą AI nie podąża, często jest tą, która jest łatwa, a nie tą, która jest skalowalna.
Indeks to dane
6. Brak rejestrowania i monitorowania
Brak obserwowalności: Jest to poważne ryzyko związane ze sztuczną inteligencją, ponieważ nie rejestruje ona automatycznie danych, chyba że zostanie o to poproszona, a nawet wtedy rejestrowanie ma tendencję do sporadycznego działania.
7. Brak komentarzy lub dokumentacji dotyczącej kodu
Dostajesz ścianę logiki bez kontekstu. Każdy przyszły programista będzie miał trudności ze zrozumieniem tego, jeśli nie zostanie to jasno udokumentowane.
8. Kopiuj-wklej – ponowne wykorzystanie zamiast abstrakcji
Często okazuje się, że zamiast usuwać funkcje lub moduły nadające się do ponownego wykorzystania, natrafiamy na powtarzające się bloki kodu, co skutkuje rozdętymi, trudnymi do zarządzania bazami kodu.
9. Niezweryfikowane dane wejściowe użytkownika
Często brakuje podstawowej walidacji. To stwarza poważne luki w zabezpieczeniach aplikacji internetowych lub interfejsów API, które są narażone na dostęp do danych użytkownika.
10. Brak testów jednostkowych i integracyjnych
Testy są albo niekompletne, albo powierzchowne. Bardzo rzadko narzędzie AI tworzy strategię testowania, chyba że zostanie o to wyraźnie poproszone, ale nawet wtedy zazwyczaj pomija ważne przypadki brzegowe.
11. Słaba struktura folderów i plików
Twoje repozytorium może “działać”, ale powodzenia w jego przeglądaniu. Często refaktoryzujemy projekty generowane przez sztuczną inteligencję, żeby były czytelne.
12. Nadużycia asynchroniczne/obietnice
Sztuczna inteligencja jest podatna na nieprawidłową obsługę logiki asynchronicznej, co może powodować wyścigi, nieobsłużone odrzucenia lub zablokowane pętle zdarzeń.
13. Zakodowane na stałe dane dla kodu produkcyjnego
Dane pozorowane pozostają w środowisku produkcyjnym. Widzieliśmy już usługi napisane przez sztuczną inteligencję, które wysyłały testowe e-maile – lub, co gorsza, przechowywały hasła użytkowników w postaci zwykłego tekstu.
14. Niepotrzebne zależności
Pakiety pobierane “po prostu tak”. Modele sztucznej inteligencji mają tendencję do instalowania nadmiernej liczby bibliotek zamiast rozwiązywania problemów za pomocą wbudowanych funkcji.
15. Złe decyzje dotyczące UX front-endu
Od niedostępności formularzy po nieczytelne opcje kontrastu, sztuczna inteligencja po prostu nie myśli tak, jak projektant. Regularnie zgłaszamy problemy z UI/UX w aplikacjach React i Vue.
16. Ścisłe połączenie między modułami
Zamiast pisać luźno powiązane usługi, kod sztucznej inteligencji często wiąże logikę między komponentami, przez co zmiany stają się niepewne i ryzykowne.
17. Brak zarządzania konfiguracją
Sztuczna inteligencja zapomina o obsłudze środowiska, więc kod opiera się na lokalnych konfiguracjach lub jest przerywany na etapach dev/staging/prod.
18. Nie bierze się pod uwagę przypadków skrajnych.
Ścieżka szczęścia działa, ale błędy, ponowne próby i nietypowe zachowania użytkownika? W ogóle nie są obsługiwane.
19. Niedopasowanie stosu technologicznego
Komponenty generowane przez sztuczną inteligencję często znajdują się w bibliotekach, które nie są reprezentatywne dla reszty stosu, na przykład w przypadku korzystania z Tailwind w projekcie Material UI.
20. Brak higieny kontroli wersji
Sztuczna inteligencja nie pisze komunikatów commit, nie tworzy struktur gałęzi i nie przestrzega procedur PR. To wszystko twoja wina.
Dlaczego te błędy są ważne
Jeśli chodzi o Twój MVP i skalę działalności, może się wydawać, że jest w porządku, “Działa, idziemy dalej”. Oto jednak powody, dla których problemy te powodują narastające problemy w przyszłości:
• Małe błędy stają się długiem technologicznym
• Luki w zabezpieczeniach przekształcają się w naruszenia danych
• Nieskalowalna architektura spowalnia uruchomienie
• Morale spada, gdy utrzymanie kodu jest trudne.
Wszyscy założyciele, którzy nie mają wykształcenia technicznego lub pracują jako dyrektorzy ds. technicznych w startupach, muszą posiadać dogłębną wiedzę na temat tych zagadnień, aby móc skutecznie realizować swoje cele.
Co założyciele powinni z tym zrobić
Oto nasza całkowicie szczera opinia, będąca wynikiem przeprowadzenia około sześciuset przeglądów przedsiębiorstw na wczesnym etapie rozwoju i przedsiębiorstw w fazie wzrostu, wykorzystujących sztuczną inteligencję:
• Zainwestuj w audyt techniczny dla startupów
Skorzystaj z profesjonalnego audytu kodu, przeprowadzonego przez ekspertów, którzy mają wiedzę na temat tego, jak kod AI zawodzi w praktyce. Więcej informacji na ten temat znajdziesz w artykule “Co tak naprawdę obejmuje audyt kodu AI.“
• Napraw kod wygenerowany przez sztuczną inteligencję, zanim ulegnie uszkodzeniu
Jeśli już używasz sztucznej inteligencji do tworzenia swojego MVP, nie panikuj, ale zacznij planować porządki. usługa refaktoryzacji kodu ułatwia startupom szybką stabilizację bazy kodu wygenerowanej przez sztuczną inteligencję.
• Priorytetowe traktowanie bezpieczeństwa i testowania
Podkreśl znaczenie: Znacznie taniej jest uporać się z tymi problemami, gdy dopiero zaczynasz, niż gdybyś padł ofiarą hakerów lub gdybyś stracił ruch użytkowników.
• Współpracuj z partnerem, który już to robił
Jeśli to możliwe, zawsze… W Appricotsoft mamy doświadczenie w pomaganiu startupom w Europie, Stanach Zjednoczonych i na całym świecie w przekształcaniu prototypów opartych na sztucznej inteligencji w rzeczywiste produkty. Rozumiemy, czego szukać i jak szybko i bezpiecznie to wyczyścić.
Dlaczego założyciele uwielbiają nasze audyty kodu AI
Nasz proces audytu jest przeznaczony dla założycieli i dyrektorów ds. technologii (CTO) bez wiedzy technicznej, którzy są zbyt zajęci. Nie rzucamy żargonem w Ciebie. Zamiast tego, dostarczamy jasnych i praktycznych wskazówek. Priorytetem jest dla nas:
• Rzeczywisty wpływ na biznes, a nie tylko czepianie się szczegółów technicznych.
• Krótki czas realizacji – żebyś nie pogrążył się w trybie analizy.
• Przezroczystość – podpowiadamy, co jest ważne, co jest przyjemne i co może poczekać.
Zrobiliśmy to dla narzędzi AI w finansach, ochronie zdrowia, logistyce, e-handlu i SaaS – czy to naprawiając problemy z kodem ChatGPT, czy skalując zaplecze stworzone przez Copilot.
Ostatnie przemyślenia: kod AI wymaga prawdziwych inżynierów
Przyszłość sztucznej inteligencji będzie się tylko poprawiać – i nie zastąpi ona wykwalifikowanych programistów w najbliższym czasie. Rosnące wykorzystanie kodu generowanego przez sztuczną inteligencję oznacza, że zagrożenia związane z jego używaniem również będą rosły. Założyciele firm, którzy przywiązują dużą wagę do jakości kodu, będą mieli ogromną przewagę.
Zaczynałeś coś z narzędziami do kodowania AI. Chcesz mieć pewność, że jesteś dumny z wykonanej pracy, zanim udostępnisz ją całemu światu? Skontaktuj się z nami. Przyjrzymy się temu tak, jakby to było nasze, ponieważ w Appricotsoft szczycimy się jedną rzeczą: tworzeniem oprogramowania, z którego jesteśmy dumni. Porozmawiajmy.
