Pentagon zabrał się za tworzenie systemu do wykrywania czołgów

W latach '80 Pentagon chciał stworzyć system automatycznego rozpoznawania ukrytych czołgów. System miał mieć kamery na czołgu i komputer w środku. Kamery miały skanować otoczenie, a komputer w środku sam analizował obraz i alarmował załogę czołgu o potencjalnym niebezpieczeństwie. Do tego celu stworzono sieć neuronową. Karmisz odpowiedni algorytm zdjęciami, a on uczy się rozpoznawać podobne elementy na zdjęciach. Na początku musisz podpowiadać komputerowi czy na zdjęciu jest czołg czy czołgi. Oczywiście zdjęcia nie lądują w bazie i komputer ich nie trzyma, tylko uczy się z obrazów wzorów.

Ponieważ nie mieli wglądu do danych jakie komputer się już nauczył powstał problem, czy algorytm nauczył się zdjęć i wiedział, że na takim zdjęciu jest czołg, a na takim nie ma, czy rzeczywiście nauczył się rozpoznawać czołgi? Ponieważ tego nie wiedziano co algorytm przetwarza, po prostu dostawał na wejściu zdjęcie, na wyjściu dawał odpowiedź tak/nie. Gdy algorytm już miał dużą skuteczność wyszukiwania czołgów, i odpowiadał poprawnie, że poszukiwany obiekt jest na zdjęciu, naukowcy przeszli do testów. Podano do nauczonego algorytmu 100 zdjęć. Odpowiedzi były kompletnie losowe. Myślano, że algorytm zamiast nauczyć się wykrywać czołgi nauczył się wzorów ze zdjęć, z każdego zdjęcia "treningowego" osobno i do wzoru przypisał odpowiedź podawaną przez człowieka podczas treningu...
cóż po badaniach nad tym dlaczego algorytm podaje ciągle złe odpowiedzi, nie uczy się wykrywać czołgów w lesie na pustyni, okazało się, że wydano dziesiątki milionów dolarów na potężną maszynę (teraz możesz to robić na tablecie), programistów i lata badań CompSci po to by zostać dumnym posiadaczem... algorytmu do wykrywania czy na zdjęciu jest ładna pogoda. Tak, zaprojektowana sieć neuronowa nie nauczyła się wykrywać czołgów, ale ładną pogodę, ponieważ znaczna większość zdjęć treningowych z czołgami była zrobiona w słoneczny dzień.