Odpowiedź TL; DR: Procesory graficzne mają znacznie więcej rdzeni procesorów niż procesory, ale ponieważ każdy rdzeń GPU działa znacznie wolniej niż rdzeń procesora i nie ma funkcji potrzebnych w nowoczesnych systemach operacyjnych, nie są one odpowiednie do wykonywania większości operacji na co dzień przetwarzanie danych. Najbardziej nadają się do intensywnych obliczeń, takich jak przetwarzanie wideo i symulacje fizyki.
GPGPU to wciąż stosunkowo nowa koncepcja. Procesory graficzne były początkowo używane tylko do renderowania grafiki; wraz z postępem technologii wykorzystano dużą liczbę rdzeni w procesorach graficznych w stosunku do procesorów, opracowując możliwości obliczeniowe dla procesorów graficznych, aby mogły przetwarzać wiele równoległych strumieni danych jednocześnie, bez względu na to, jakie to dane. Chociaż procesory graficzne mogą mieć setki, a nawet tysiące procesorów strumieniowych, każdy z nich działa wolniej niż rdzeń procesora i ma mniej funkcji (nawet jeśli są one kompletne i można je zaprogramować do uruchamiania dowolnego programu, który procesor może uruchomić). Funkcje, których brakuje w procesorach GPU, to przerwania i pamięć wirtualna, które są wymagane do wdrożenia nowoczesnego systemu operacyjnego.
Innymi słowy, procesory i procesory graficzne mają znacząco różne architektury, dzięki czemu lepiej nadają się do różnych zadań. Karta graficzna może obsługiwać duże ilości danych w wielu strumieniach, wykonując na nich stosunkowo proste operacje, ale nie nadaje się do intensywnego lub złożonego przetwarzania jednego lub kilku strumieni danych. Procesor jest znacznie szybszy w przeliczeniu na rdzeń (pod względem instrukcji na sekundę) i może łatwiej wykonywać złożone operacje na jednym lub kilku strumieniach danych, ale nie może efektywnie obsługiwać wielu strumieni jednocześnie.
W rezultacie procesory graficzne nie nadają się do obsługi zadań, które nie przynoszą znaczących korzyści lub których nie można zrównoważyć, w tym wielu popularnych aplikacji konsumenckich, takich jak edytory tekstu. Ponadto procesory graficzne wykorzystują zasadniczo inną architekturę; należałoby zaprogramować aplikację specjalnie dla GPU, aby działała, a programowanie układów GPU wymaga znacznie różnych technik. Te różne techniki obejmują nowe języki programowania, modyfikacje istniejących języków i nowe paradygmaty programowania, które lepiej nadają się do wyrażania obliczeń jako operacji równoległej wykonywanej przez wiele procesorów strumieniowych. Więcej informacji na temat technik potrzebnych do programowania procesorów graficznych można znaleźć w artykułach Wikipedii na temat przetwarzania strumieniowego i obliczeń równoległych .
Nowoczesne karty graficzne są w stanie wykonywać operacje wektorowe i arytmetykę zmiennoprzecinkową, a najnowsze karty potrafią manipulować liczbami zmiennoprzecinkowymi podwójnej precyzji. Ramy takie jak CUDA i OpenCL umożliwiają pisanie programów dla układów GPU, a natura układów GPU sprawia, że są one najbardziej odpowiednie do operacji o wysokim stopniu równoległości, na przykład w obliczeniach naukowych, gdzie seria wyspecjalizowanych kart obliczeniowych GPU może być realnym zamiennikiem małej klaster obliczeniowy jak w superkomputerach osobistych NVIDIA Tesla . Konsumenci z nowoczesnymi układami GPU, którzy mają doświadczenie w Folding @ home, mogą z nich korzystać, aby współpracować z klientami GPU , którzy mogą przeprowadzać symulacje składania białek z bardzo dużą prędkością i wnieść więcej pracy do projektu (przeczytaj często zadawane pytania)po pierwsze, szczególnie te związane z procesorami graficznymi). Procesory graficzne mogą także umożliwiać lepszą symulację fizyki w grach wideo za pomocą PhysX, przyspieszać kodowanie i dekodowanie wideo oraz wykonywać inne zadania wymagające dużej mocy obliczeniowej. Do tego typu zadań najbardziej odpowiednie są procesory graficzne.
AMD jest pionierem w projektowaniu procesorów o nazwie Accelerated Processing Unit (APU), która łączy konwencjonalne rdzenie procesorów x86 z procesorami graficznymi. Takie podejście zapewnia wydajność graficzną znacznie przewyższającą rozwiązania graficzne zintegrowane z płytą główną (choć nie dorównuje droższym dyskretnym kartom graficznym) i pozwala na stworzenie kompaktowego, taniego systemu z dobrą wydajnością multimediów bez potrzeby posiadania osobnego procesora graficznego. Najnowsze procesory Intel oferują również zintegrowaną grafikę na układzie, chociaż konkurencyjna wydajność zintegrowanego procesora graficznego jest obecnie ograniczona do kilku układów z układem Intel Iris Pro Graphics. W miarę postępu technologii zauważamy rosnący stopień konwergencji tych niegdyś oddzielnych części. Prognozy AMDprzyszłość, w której procesor i GPU są jednym, zdolnym do płynnej współpracy nad tym samym zadaniem .
Niemniej jednak wiele zadań wykonywanych przez systemy operacyjne i aplikacje na komputery PC są nadal lepiej dostosowane do procesorów i potrzeba dużo pracy, aby przyspieszyć program korzystający z GPU. Ponieważ tak wiele istniejących programów korzysta z architektury x86, a ponieważ procesory graficzne wymagają różnych technik programowania i brakuje kilku ważnych funkcji potrzebnych w systemach operacyjnych, ogólne przejście z procesora na procesor graficzny w codziennych obliczeniach jest bardzo trudne.