Ostrzeżenie read.csv „EOF w ciągu cudzysłowu” zapobiega całkowitemu odczytaniu pliku

Mam plik CSV (24,1 MB) , którego nie mogę w pełni odczytać w sesji języka R. Kiedy otwieram plik w programie obsługującym arkusze kalkulacyjne, widzę 112 544 wierszy. Kiedy czytam to do R read.csv, otrzymuję tylko 56.952 wiersze i to ostrzeżenie:

cit <- read.csv("citations.CSV", row.names = NULL, 
                comment.char = "", header = TRUE, 
                stringsAsFactors = FALSE,  
                colClasses= "character", encoding= "utf-8")

Warning message:
In scan(file, what, nmax, sep, dec, quote, skip, nlines, na.strings,  :
  EOF within quoted string

Mogę wczytać cały plik do R za pomocą readLines:

rl <- readLines(file("citations.CSV", encoding = "utf-8"))
length(rl)
[1] 112545

Ale nie mogę przywrócić tego do R jako tabeli (przez read.csv):

write.table(rl, "rl.txt", quote = FALSE, row.names = FALSE)
rl_in <- read.csv("rl.txt", skip = 1, row.names = NULL)

Warning message:
In scan(file, what, nmax, sep, dec, quote, skip, nlines, na.strings,  :
  EOF within quoted string

Jak mogę rozwiązać lub obejść ten komunikat EOF (który wydaje się być bardziej błędem niż ostrzeżeniem), aby przenieść cały plik do mojej Rsesji?

Mam podobne problemy z innymi metodami odczytu plików CSV:

require(sqldf)
cit_sql <- read.csv.sql("citations.CSV", sql = "select * from file")
require(data.table)
cit_dt <- fread("citations.CSV")
require(ff)
cit_ff <- read.csv.ffdf(file="citations.CSV")

Oto moja sesjaInfo ()

R version 3.0.1 (2013-05-16)
Platform: x86_64-w64-mingw32/x64 (64-bit)

locale:
[1] LC_COLLATE=English_United States.1252  LC_CTYPE=English_United States.1252   
[3] LC_MONETARY=English_United States.1252 LC_NUMERIC=C                          
[5] LC_TIME=English_United States.1252    

attached base packages:
[1] tools     tcltk     stats     graphics  grDevices utils     datasets  methods   base     

other attached packages:
 [1] ff_2.2-11             bit_1.1-10            data.table_1.8.8      sqldf_0.4-6.4        
 [5] RSQLite.extfuns_0.0.1 RSQLite_0.11.4        chron_2.3-43          gsubfn_0.6-5         
 [9] proto_0.3-10          DBI_0.2-7   

Musisz wyłączyć cytowanie.

cit <- read.csv("citations.CSV", quote = "", 
                 row.names = NULL, 
                 stringsAsFactors = FALSE)

str(cit)
## 'data.frame':    112543 obs. of  13 variables:
##  $ row.names    : chr  "10.2307/675394" "10.2307/30007362" "10.2307/4254931" "10.2307/20537934" ...
##  $ id           : chr  "10.2307/675394\t" "10.2307/30007362\t" "10.2307/4254931\t" "10.2307/20537934\t" ...
##  $ doi          : chr  "Archaeological Inference and Inductive Confirmation\t" "Sound and Sense in Cath Almaine\t" "Oak Galls Preserved by the Eruption of Mount Vesuvius in A.D. 79_ and Their Probable Use\t" "The Arts Four Thousand Years Ago\t" ...
##  $ title        : chr  "Bruce D. Smith\t" "Tomás Ó Cathasaigh\t" "Hiram G. Larew\t" "\t" ...
##  $ author       : chr  "American Anthropologist\t" "Ériu\t" "Economic Botany\t" "The Illustrated Magazine of Art\t" ...
##  $ journaltitle : chr  "79\t" "54\t" "41\t" "1\t" ...
##  $ volume       : chr  "3\t" "\t" "1\t" "3\t" ...
##  $ issue        : chr  "1977-09-01T00:00:00Z\t" "2004-01-01T00:00:00Z\t" "1987-01-01T00:00:00Z\t" "1853-01-01T00:00:00Z\t" ...
##  $ pubdate      : chr  "pp. 598-617\t" "pp. 41-47\t" "pp. 33-40\t" "pp. 171-172\t" ...
##  $ pagerange    : chr  "American Anthropological Association\tWiley\t" "Royal Irish Academy\t" "New York Botanical Garden Press\tSpringer\t" "\t" ...
##  $ publisher    : chr  "fla\t" "fla\t" "fla\t" "fla\t" ...
##  $ type         : logi  NA NA NA NA NA NA ...
##  $ reviewed.work: logi  NA NA NA NA NA NA ...

Myślę, że to z powodu tego rodzaju linii (zaznacz „Cierń” i „Minus”)

 readLines("citations.CSV")[82]
[1] "10.2307/3642839,10.2307/3642839\t,\"Thorn\" and \"Minus\" in Hieroglyphic Luvian Orthography\t,H. Craig Melchert\t,Anatolian Studies\t,38\t,\t,1988-01-01T00:00:00Z\t,pp. 29-42\t,British Institute at Ankara\t,fla\t,\t,"

Jestem nowym użytkownikiem R i pomyślałem, że opublikuję to na wypadek, gdyby komuś to pomogło. Próbowałem wczytać dane z pliku tekstowego (oddzielone przecinkami), który zawierał kilka znaków hiszpańskich i zajęło mi to wieczność. Wiedziałem, że muszę użyć kodowania UTF-8, ustawić argument nagłówka na TRUE i że muszę ustawić argument sep na „,”, ale nadal miałem problemy. Po przeczytaniu tego postu próbowałem ustawić argument wypełnienia na TRUE, ale potem otrzymałem ten sam "EOF w cudzysłowie", który udało mi się naprawić w taki sam sposób jak powyżej. Moja pomyślnie zakończona tabela read.table wygląda następująco:

target <- read.table("target2.txt", fill=TRUE, header=TRUE, quote="", sep=",", encoding="UTF-8")

W rezultacie pojawiają się hiszpańskie znaki i te same przyciemnienia, które miałem pierwotnie, więc nazywam to sukcesem! Dziękuje wszystkim!

W sekcji pomocy R, jak wskazano powyżej, po prostu wyłączając cytowanie, po prostu dodając:

    quote = "" 

do read.csv () zadziałało dla mnie.

Wystąpił błąd „EOF w ciągu cudzysłowu”:

    > iproscan.53A.neg     = read.csv("interproscan.53A.neg.n.csv",
    +                        colClasses=c(pb.id      = "character",
    +                                     genLoc     = "character",
    +                                     icode      = "character",
    +                                     length     = "character",
    +                                     proteinDB  = "character",
    +                                     protein.id = "character",
    +                                     prot.desc  = "character",
    +                                     start      = "character",
    +                                     end        = "character",
    +                                     evalue     = "character",
    +                                     tchar      = "character",
    +                                     date       = "character",
    +                                     ipro.id    = "character",
    +                                     prot.name  = "character",
    +                                     go.cat     = "character",
    +                                     reactome.id= "character"),
    +                                     as.is=T,header=F)
    Warning message:
    In scan(file, what, nmax, sep, dec, quote, skip, nlines, na.strings,  :
      EOF within quoted string
    > dim(iproscan.53A.neg)
    [1] 69383    16

W wczytanym pliku brakowało 6619 wierszy. Ale wyłączając cytowanie

    > iproscan.53A.neg     = read.csv("interproscan.53A.neg.n.csv",
    +                        colClasses=c(pb.id      = "character",
    +                                     genLoc     = "character",
    +                                     icode      = "character",
    +                                     length     = "character",
    +                                     proteinDB  = "character",
    +                                     protein.id = "character",
    +                                     prot.desc  = "character",
    +                                     start      = "character",
    +                                     end        = "character",
    +                                     evalue     = "character",
    +                                     tchar      = "character",
    +                                     date       = "character",
    +                                     ipro.id    = "character",
    +                                     prot.name  = "character",
    +                                     go.cat     = "character",
    +                                     reactome.id= "character"),
    +                                     as.is=T,header=F,**quote=""**)    
    > 
    > dim(iproscan.53A.neg)
    [1] 76002    16

Pracował bez błędów i wszystkie wiersze zostały pomyślnie wczytane.

Napotkałem również ten problem i udało mi się obejść podobny błąd EOF za pomocą:

read.table("....csv", sep=",", ...)

Zauważ, że parametr separator jest zdefiniowany w ramach bardziej ogólnych read.table().

Właściwie używanie read.csv()do czytania pliku z zawartością tekstową nie jest dobrym pomysłem, wyłączenie cytatu, ponieważ zestaw quote=""jest tylko rozwiązaniem tymczasowym, działało tylko z oddzielnymi cudzysłowami. Istnieją inne powody, które mogą powodować ostrzeżenie, na przykład niektóre znaki specjalne.

Trwałym rozwiązaniem (użycie read.csv()), ustalenie, czym są te znaki specjalne i użycie wyrażenia regularnego, aby je wyeliminować, jest pomysłem.

Czy kiedykolwiek myślałeś o zainstalowaniu pakietu {data.table}i użyciu fread()do odczytania pliku. jest znacznie szybszy i nie przeszkadzałby ci tym ostrzeżeniem EOF. Zauważ, że plik, który ładuje, będzie przechowywany jako obiekt data.table, ale nie jako obiekt data.frame. Klasa data.table ma wiele dobrych funkcji, ale w każdym razie możesz ją przekształcić, używając w as.data.frame()razie potrzeby.

Miałem podobny problem: EOF -warning i tylko część danych ładowała się za pomocą read.csv (). Wypróbowałem cudzysłowy = "", ale usunęło to tylko ostrzeżenie EOF.

Ale patrząc na pierwszy wiersz, który się nie ładował, stwierdziłem, że w jednej z komórek znajduje się znak specjalny, strzałka → (wartość szesnastkowa 0x1A). Po usunięciu strzałki dane ładowały się normalnie.

Ja też miałem podobny problem. Ale w moim przypadku przyczyną problemu była obecność apostrofów (tj. Pojedynczych cudzysłowów) w niektórych wartościach tekstowych. Jest to szczególnie częste podczas pracy z danymi zawierającymi teksty w języku francuskim, np. „L'autre jour”.

Tak więc rozwiązaniem było po prostu dostosowanie domyślnego ustawienia argumentu cudzysłowu, aby wykluczyć symbol «'», a zatem, używając cudzysłowu = "\" " (tj. Tylko podwójny cudzysłów ), wszystko działało dobrze.

Mam nadzieję, że niektórym z was może to pomóc. Twoje zdrowie.

Readr pakiet będzie rozwiązać ten problem.

install.packages('readr')
library(readr)
readr::read_csv('yourfile.csv')