Mam skrypt ksh, który zwraca długą listę wartości oddzielonych znakiem nowej linii i chcę widzieć tylko wartości unikalne / odrębne. Czy można to zrobić?
Załóżmy na przykład, że moje dane wyjściowe to sufiksy plików w katalogu:
tar gz java gz java tar class class
Chcę zobaczyć listę taką jak:
tar gz java class
Odpowiedzi:
Możesz przyjrzeć się aplikacjom uniqi sort.
./yourscript.ksh | sortuj | uniq
(FYI, tak, sortowanie jest konieczne w tym wierszu poleceń, uniqusuwane są tylko zduplikowane linie, które są bezpośrednio po sobie)
EDYTOWAĆ:
W przeciwieństwie do tego, co napisał Aaron Digulla w związku z uniqopcjami wiersza poleceń:
Biorąc pod uwagę następujące dane wejściowe:
klasa słoik słoik słoik kosz kosz Jawa
uniq wypisze wszystkie wiersze dokładnie raz:
klasa słoik kosz Jawa
uniq -d wyświetli wszystkie wiersze, które pojawiają się więcej niż raz, i wydrukuje je raz:
słoik kosz
uniq -u wyświetli wszystkie wiersze, które pojawiają się dokładnie raz, i wydrukuje je raz:
klasa Jawa
sortoferuje również -uwersję umożliwiającą podawanie unikalnych wartości.
uniqszwy przetwarzają tylko sąsiednie linie (przynajmniej domyślnie), co oznacza, że można sortwprowadzić przed karmieniem uniq.
./script.sh | sort -uJest to to samo co odpowiedź monotlenku , ale nieco bardziej zwięzłe.
... | sort | uniqdlatego, że wykonuje się je jednym strzałem
W przypadku większych zestawów danych, w których sortowanie może nie być pożądane, możesz również użyć następującego skryptu perl:
./yourscript.ksh | perl -ne 'if (!defined $x{$_}) { print $_; $x{$_} = 1; }'To po prostu zapamiętuje każde wyjście liniowe, aby nie wyprowadzało go ponownie.
Ma tę przewagę nad rozwiązaniem „ sort | uniq”, że nie wymaga sortowania z góry.
Z zsh można to zrobić:
% cat infile
tar
more than one word
gz
java
gz
java
tar
class
class
zsh-5.0.0[t]% print -l "${(fu)$(<infile)}"
tar
more than one word
gz
java
classLub możesz użyć AWK:
% awk '!_[$0]++' infile
tar
more than one word
gz
java
classawkrozwiązanie ( wyjaśnienie znajduje się na stackoverflow.com/a/21200722/45375 ) będzie działać z dużymi plikami, o ile liczba unikalnych wierszy jest wystarczająco mała (ponieważ unikatowe wiersze są przechowywane w pamięci ). zshRozwiązanie czyta cały plik do pamięci pierwszy, który nie może być opcja z dużymi plikami. Ponadto, jak napisano, poprawnie obsługiwane są tylko wiersze bez osadzonych spacji; aby to naprawić, użyj IFS=$'\n' read -d '' -r -A u <file; print -l ${(u)u}zamiast tego.
(IFS=$'\n' u=($(<infile)); print -l "${(u)u[@]}")
[@]sufiksu, aby odwoływać się do wszystkich elementów tablicy - wydaje się, że - przynajmniej od wersji 5 - działa bez niej; czy dodałeś to dla jasności?
print -l "${(fu)$(<infile)}"
awkpróbkę wyjściową.
Przeprowadź je przez sorti uniq. To usuwa wszystkie duplikaty.
uniq -ddaje tylko duplikaty, uniq -udaje tylko te unikalne (paski duplikaty).
uniq -uNIE jest zachowaniem domyślnym (szczegóły w edycji w mojej odpowiedzi)
Dzięki AWK możesz to zrobić, uważam, że jest to szybsze niż sortowanie
./yourscript.ksh | awk '!a[$0]++'Unikalny, zgodnie z prośbą (ale nie posortowany);
zużywa mniej zasobów systemowych na mniej niż ~ 70 elementów (zgodnie z czasem);
napisane, aby pobrać dane wejściowe ze standardowego wejścia
(lub zmodyfikować i dołączyć do innego skryptu):
(Bash)
bag2set () {
# Reduce a_bag to a_set.
local -i i j n=${#a_bag[@]}
for ((i=0; i < n; i++)); do
if [[ -n ${a_bag[i]} ]]; then
a_set[i]=${a_bag[i]}
a_bag[i]=$'\0'
for ((j=i+1; j < n; j++)); do
[[ ${a_set[i]} == ${a_bag[j]} ]] && a_bag[j]=$'\0'
done
fi
done
}
declare -a a_bag=() a_set=()
stdin="$(</dev/stdin)"
declare -i i=0
for e in $stdin; do
a_bag[i]=$e
i=$i+1
done
bag2set
echo "${a_set[@]}"Dostaję lepsze wskazówki, aby uzyskać nieplikowe wpisy w pliku
awk '$0 != x ":FOO" && NR>1 {print x} {x=$0} END {print}' file_name | uniq -f1 -u