W Pythonie, jak podzielić ciąg i zachować separatory?

Oto najprostszy sposób na wyjaśnienie tego. Oto czego używam:

re.split('\W', 'foo/bar spam\neggs')
-> ['foo', 'bar', 'spam', 'eggs']

Oto czego chcę:

someMethod('\W', 'foo/bar spam\neggs')
-> ['foo', '/', 'bar', ' ', 'spam', '\n', 'eggs']

Powodem jest to, że chcę podzielić ciąg na tokeny, manipulować nim, a następnie złożyć go ponownie.

>>> re.split('(\W)', 'foo/bar spam\neggs')
['foo', '/', 'bar', ' ', 'spam', '\n', 'eggs']

Jeśli dzielisz na nową linię, użyj splitlines(True).

>>> 'line 1\nline 2\nline without newline'.splitlines(True)
['line 1\n', 'line 2\n', 'line without newline']

(Nie jest to ogólne rozwiązanie, ale dodanie tego tutaj na wypadek, gdyby ktoś tu przyszedł, nie zdając sobie sprawy z istnienia tej metody).

Kolejne rozwiązanie bez wyrażenia regularnego, które działa dobrze w Pythonie 3

# Split strings and keep separator
test_strings = ['<Hello>', 'Hi', '<Hi> <Planet>', '<', '']

def split_and_keep(s, sep):
   if not s: return [''] # consistent with string.split()

   # Find replacement character that is not used in string
   # i.e. just use the highest available character plus one
   # Note: This fails if ord(max(s)) = 0x10FFFF (ValueError)
   p=chr(ord(max(s))+1) 

   return s.replace(sep, sep+p).split(p)

for s in test_strings:
   print(split_and_keep(s, '<'))


# If the unicode limit is reached it will fail explicitly
unicode_max_char = chr(1114111)
ridiculous_string = '<Hello>'+unicode_max_char+'<World>'
print(split_and_keep(ridiculous_string, '<'))

Jeśli masz tylko 1 separator, możesz zastosować wyrażenia listowe:

text = 'foo,bar,baz,qux'  
sep = ','

Dołączanie / dodawanie separatora:

result = [x+sep for x in text.split(sep)]
#['foo,', 'bar,', 'baz,', 'qux,']
# to get rid of trailing
result[-1] = result[-1].strip(sep)
#['foo,', 'bar,', 'baz,', 'qux']

result = [sep+x for x in text.split(sep)]
#[',foo', ',bar', ',baz', ',qux']
# to get rid of trailing
result[0] = result[0].strip(sep)
#['foo', ',bar', ',baz', ',qux']

Separator jako jego własny element:

result = [u for x in text.split(sep) for u in (x, sep)]
#['foo', ',', 'bar', ',', 'baz', ',', 'qux', ',']
results = result[:-1]   # to get rid of trailing

inny przykład, podziel na nie alfanumeryczne i zachowaj separatory

import re
a = "foo,bar@candy*ice%cream"
re.split('([^a-zA-Z0-9])',a)

wynik:

['foo', ',', 'bar', '@', 'candy', '*', 'ice', '%', 'cream']

wyjaśnienie

re.split('([^a-zA-Z0-9])',a)

() <- keep the separators
[] <- match everything in between
^a-zA-Z0-9 <-except alphabets, upper/lower and numbers.

Możesz również podzielić ciąg za pomocą tablicy ciągów zamiast wyrażenia regularnego, tak jak to:

def tokenizeString(aString, separators):
    #separators is an array of strings that are being used to split the the string.
    #sort separators in order of descending length
    separators.sort(key=len)
    listToReturn = []
    i = 0
    while i < len(aString):
        theSeparator = ""
        for current in separators:
            if current == aString[i:i+len(current)]:
                theSeparator = current
        if theSeparator != "":
            listToReturn += [theSeparator]
            i = i + len(theSeparator)
        else:
            if listToReturn == []:
                listToReturn = [""]
            if(listToReturn[-1] in separators):
                listToReturn += [""]
            listToReturn[-1] += aString[i]
            i += 1
    return listToReturn


print(tokenizeString(aString = "\"\"\"hi\"\"\" hello + world += (1*2+3/5) '''hi'''", separators = ["'''", '+=', '+', "/", "*", "\\'", '\\"', "-=", "-", " ", '"""', "(", ")"]))

# This keeps all separators  in result 
##########################################################################
import re
st="%%(c+dd+e+f-1523)%%7"
sh=re.compile('[\+\-//\*\<\>\%\(\)]')

def splitStringFull(sh, st):
   ls=sh.split(st)
   lo=[]
   start=0
   for l in ls:
     if not l : continue
     k=st.find(l)
     llen=len(l)
     if k> start:
       tmp= st[start:k]
       lo.append(tmp)
       lo.append(l)
       start = k + llen
     else:
       lo.append(l)
       start =llen
   return lo
  #############################

li= splitStringFull(sh , st)
['%%(', 'c', '+', 'dd', '+', 'e', '+', 'f', '-', '1523', ')%%', '7']

Jedno leniwe i proste rozwiązanie

Załóżmy, że masz wzorzec wyrażenia regularnego split_pattern = r'(!|\?)'

Najpierw dodajesz taki sam znak jak nowy separator, na przykład „[cut]”

new_string = re.sub(split_pattern, '\\1[cut]', your_string)

Następnie podzielisz nowy separator, new_string.split('[cut]')

Jeśli ktoś chce podzielić ciąg znaków, zachowując separatory przez wyrażenie regularne bez przechwytywania grupy:

def finditer_with_separators(regex, s):
    matches = []
    prev_end = 0
    for match in regex.finditer(s):
        match_start = match.start()
        if (prev_end != 0 or match_start > 0) and match_start != prev_end:
            matches.append(s[prev_end:match.start()])
        matches.append(match.group())
        prev_end = match.end()
    if prev_end < len(s):
        matches.append(s[prev_end:])
    return matches

regex = re.compile(r"[\(\)]")
matches = finditer_with_separators(regex, s)

Jeśli założymy, że wyrażenie regularne jest opakowane w grupę przechwytującą:

def split_with_separators(regex, s):
    matches = list(filter(None, regex.split(s)))
    return matches

regex = re.compile(r"([\(\)])")
matches = split_with_separators(regex, s)

Oba sposoby usuwają również puste grupy, które w większości przypadków są bezużyteczne i irytujące.

Oto proste .splitrozwiązanie, które działa bez wyrażenia regularnego.

To jest odpowiedź na split () Python bez usuwania separatora , więc nie dokładnie to, o co pyta oryginalny post, ale drugie pytanie zostało zamknięte jako duplikat tego.

def splitkeep(s, delimiter):
    split = s.split(delimiter)
    return [substr + delimiter for substr in split[:-1]] + [split[-1]]

Losowe testy:

import random

CHARS = [".", "a", "b", "c"]
assert splitkeep("", "X") == [""]  # 0 length test
for delimiter in ('.', '..'):
    for idx in range(100000):
        length = random.randint(1, 50)
        s = "".join(random.choice(CHARS) for _ in range(length))
        assert "".join(splitkeep(s, delimiter)) == s

Miałem podobny problem, próbując podzielić ścieżkę pliku i próbowałem znaleźć prostą odpowiedź. To działało dla mnie i nie wymagało zastępowania ograniczników z powrotem w podzielonym tekście:

my_path = 'folder1/folder2/folder3/file1'

import re

re.findall('[^/]+/|[^/]+', my_path)

zwroty:

['folder1/', 'folder2/', 'folder3/', 'file1']

Uważam, że podejście oparte na generatorze jest bardziej satysfakcjonujące:

def split_keep(string, sep):
    """Usage:
    >>> list(split_keep("a.b.c.d", "."))
    ['a.', 'b.', 'c.', 'd']
    """
    start = 0
    while True:
        end = string.find(sep, start) + 1
        if end == 0:
            break
        yield string[start:end]
        start = end
    yield string[start:]

Pozwala to uniknąć konieczności znalezienia poprawnego wyrażenia regularnego, a teoretycznie powinno być dość tanie. Nie tworzy nowych obiektów łańcuchowych i przekazuje większość pracy iteracyjnej do wydajnej metody find.

... a w Pythonie 3.8 może być tak krótki, jak:

def split_keep(string, sep):
    start = 0
    while (end := string.find(sep, start) + 1) > 0:
        yield string[start:end]
        start = end
    yield string[start:]

1. zastąpić wszystko seperator: (\W)zseperator + new_seperator: (\W;)

2. podzielone przez new_seperator: (;)

def split_and_keep(seperator, s):
  return re.split(';', re.sub(seperator, lambda match: match.group() + ';', s))

print('\W', 'foo/bar spam\neggs')