dlaczego nie mogłem pobrać obrazów z Google za pomocą Pythona?

Kod pomógł mi pobrać kilka zdjęć z Google. Kiedyś działało kilka dni temu, a teraz nagle łamie się kod.

Kod :

# importing google_images_download module 
from google_images_download import google_images_download  

# creating object 
response = google_images_download.googleimagesdownload()  

search_queries = ['Apple', 'Orange', 'Grapes', 'water melon'] 


def downloadimages(query): 
    # keywords is the search query 
    # format is the image file format 
    # limit is the number of images to be downloaded 
    # print urs is to print the image file url 
    # size is the image size which can 
    # be specified manually ("large, medium, icon") 
    # aspect ratio denotes the height width ratio 
    # of images to download. ("tall, square, wide, panoramic") 
    arguments = {"keywords": query, 
                 "format": "jpg", 
                 "limit":4, 
                 "print_urls":True, 
                 "size": "medium", 
                 "aspect_ratio": "panoramic"} 
    try: 
        response.download(arguments) 

    # Handling File NotFound Error     
    except FileNotFoundError:  
        arguments = {"keywords": query, 
                     "format": "jpg", 
                     "limit":4, 
                     "print_urls":True,  
                     "size": "medium"} 

        # Providing arguments for the searched query 
        try: 
            # Downloading the photos based 
            # on the given arguments 
            response.download(arguments)  
        except: 
            pass

# Driver Code 
for query in search_queries: 
    downloadimages(query)  
    print()

Dziennik wyjściowy:

Nr pozycji: 1 -> Nazwa elementu = Apple Ocena ... Rozpoczęcie pobierania ...

Niestety nie można pobrać wszystkich 4, ponieważ niektórych obrazów nie można pobrać. 0 to wszystko, co mamy dla tego filtra wyszukiwania!

Błędy: 0

Nr pozycji: 1 -> Nazwa elementu = Pomarańczowa Ocena ... Rozpoczęcie pobierania ...

Niestety nie można pobrać wszystkich 4, ponieważ niektórych obrazów nie można pobrać. 0 to wszystko, co mamy dla tego filtra wyszukiwania!

Błędy: 0

Nr pozycji: 1 -> Nazwa elementu = Winogrona Ocena ... Rozpoczęcie pobierania ...

Niestety nie można pobrać wszystkich 4, ponieważ niektórych obrazów nie można pobrać. 0 to wszystko, co mamy dla tego filtra wyszukiwania!

Błędy: 0

Nr pozycji: 1 -> Nazwa przedmiotu = arbuz Ocena ... Rozpoczęcie pobierania ...

Niestety nie można pobrać wszystkich 4, ponieważ niektórych obrazów nie można pobrać. 0 to wszystko, co mamy dla tego filtra wyszukiwania!

Błędy: 0

To faktycznie tworzy folder, ale nie ma w nim obrazów.

Wygląda na to, że występuje problem z pakietem. Zobacz te otwarte PR: PR1 i PR2

Myślę, że Google zmienia DOM. Element class = "rg_meta notranslate" już nie istnieje. Zmienia się na class = "rg_i ..."

def get_soup(url,header):
    return BeautifulSoup(urllib2.urlopen(urllib2.Request(url,headers=header)),'html.parser')    

def main(args):
    query = "typical face"
    query = query.split()
    query = '+'.join(query)
    url = "https://www.google.co.in/search?q="+query+"&source=lnms&tbm=isch"
    headers = {}
    headers['User-Agent'] = "Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/41.0.2228.0 Safari/537.36"
    soup = get_soup(url, headers)
    for a in soup.find_all("img", {"class": "rg_i"}):
        wget.download(a.attrs["data-iurl"], a.attrs["data-iid"])


if __name__ == '__main__':
    from sys import argv
    try:
        main(argv)
    except KeyboardInterrupt:
        pass
    sys.exit()

Rzeczywiście problem pojawił się nie tak dawno temu, istnieje już kilka podobnych problemów Github:

• https://github.com/hardikvasa/google-images-download/pull/298
• https://github.com/hardikvasa/google-images-download/issues/301
• https://github.com/hardikvasa/google-images-download/issues/302

Niestety nie ma oficjalnego rozwiązania, na razie możesz skorzystać z tymczasowego rozwiązania, które zostało przedstawione w dyskusjach.

Powodem tego nie jest to, że Google zmieniło sposób, w jaki robią wszystko, więc teraz potrzebujesz api_key zawartego w ciągu wyszukiwania. W wyniku tych pakietów, takich jak pobieranie obrazów google, nie działają już, nawet jeśli używasz wersji 2.8.0, ponieważ nie mają one symbolu zastępczego, aby wstawić ciąg api_key, który musisz zarejestrować w Google, aby uzyskać 2500 darmowych pobrań dziennie.

Jeśli chcesz zapłacić 50 USD miesięcznie lub więcej za dostęp do usługi z serpapi.com , jednym ze sposobów jest skorzystanie z pakietu pip google-search-resultsi podanie klucza api_key jako części parametrów zapytania.

params = {
           "engine" : "google",
           ...
           "api_key" : "secret_api_key" 
}

gdzie sam podajesz swój klucz API, a następnie dzwonisz:

client = GoogleSearchResults(params)
results = client.get_dict()

Zwraca ciąg JSON z linkiem do wszystkich adresów URL obrazu, a następnie pobierasz je bezpośrednio.