Разделить строку, игнорируя разделы в кавычках

Учитывая такую ​​строку:

a, "строка, с", различные, "значения и некоторые", заключенные в кавычки

Какой хороший алгоритм разбить это на основе запятых, игнорируя запятые внутри цитируемых разделов?

На выходе должен быть массив:

["a", "строка, с", "различные", "значения и некоторые", "заключенные в кавычки"]

Ответов (13)

Решение

Если бы выбранный мной язык не предлагал способа сделать это, не задумываясь, я бы сначала рассмотрел два варианта в качестве простого выхода:

  1. Предварительно проанализируйте и замените запятые в строке другим управляющим символом, затем разделите их, а затем выполните последующий анализ массива для замены управляющего символа, использованного ранее, запятыми.

  2. В качестве альтернативы разделите их на запятые, а затем проанализируйте полученный массив в другой массив, проверяя ведущие кавычки для каждой записи массива и объединяя записи, пока я не достигну завершающей цитаты.

Однако это хаки, и если это чисто «умственное» упражнение, то я подозреваю, что они окажутся бесполезными. Если это реальная проблема, то было бы полезно знать язык, чтобы мы могли дать какой-то конкретный совет.

Python:

import csv
reader = csv.reader(open("some.csv"))
for row in reader:
    print row

Поскольку вы сказали «агностик языка», я написал свой алгоритм на языке, который максимально приближен к псевдокоду:

def find_character_indices(s, ch):
    return [i for i, ltr in enumerate(s) if ltr == ch]


def split_text_preserving_quotes(content, include_quotes=False):
    quote_indices = find_character_indices(content, '"')

    output = content[:quote_indices[0]].split()

    for i in range(1, len(quote_indices)):
        if i % 2 == 1: # end of quoted sequence
            start = quote_indices[i - 1]
            end = quote_indices[i] + 1
            output.extend([content[start:end]])

        else:
            start = quote_indices[i - 1] + 1
            end = quote_indices[i]
            split_section = content[start:end].split()
            output.extend(split_section)

        output += content[quote_indices[-1] + 1:].split()                                                                 

    return output

Здесь автор добавил каплю кода C#, который обрабатывает сценарий, с которым у вас возникла проблема:

Импорт файлов CSV в .Net

Перевод не должен быть слишком сложным.

Это стандартный синтаксический анализ в стиле CSV. Многие люди пытаются сделать это с помощью регулярных выражений. Вы можете получить около 90% с помощью регулярных выражений, но вам действительно нужен настоящий парсер CSV, чтобы делать это правильно. Несколько месяцев назад я нашел на CodeProject быстрый и отличный анализатор CSV на C#, который очень рекомендую!

Конечно, лучше использовать парсер CSV, но ради удовольствия вы можете:

Loop on the string letter by letter.
    If current_letter == quote : 
        toggle inside_quote variable.
    Else if (current_letter ==comma and not inside_quote) : 
        push current_word into array and clear current_word.
    Else 
        append the current_letter to current_word
When the loop is done push the current_word into array 

Я использую это для анализа строк, не уверен, что это помогает здесь; но возможно с небольшими изменениями?

function getstringbetween($string, $start, $end){
    $string = " ".$string;
    $ini = strpos($string,$start);
    if ($ini == 0) return "";
    $ini += strlen($start);   
    $len = strpos($string,$end,$ini) - $ini;
    return substr($string,$ini,$len);
}

$fullstring = "this is my [tag]dog[/tag]";
$parsed = getstringbetween($fullstring, "[tag]", "[/tag]");

echo $parsed; // (result = dog) 

/ мп

Вот простой алгоритм:

  1. Определите, начинается ли строка с '"'символа
  2. Разделите строку на массив, разделенный '"'символом.
  3. Пометьте кавычки запятыми с помощью заполнителя #COMMA#
    • Если ввод начинается с a '"', отметьте те элементы в массиве, где индекс% 2 == 0
    • В противном случае отметьте те элементы в массиве, где индекс% 2 == 1
  4. Объедините элементы в массиве, чтобы сформировать измененную входную строку.
  5. Разделите строку на массив, разделенный ','символом.
  6. Замените все экземпляры в массиве #COMMA#заполнителей ','символом.
  7. Массив - это ваш результат.

Вот реализация python:
(исправлено для обработки '"a, b", c, "d, e, f, h", "i, j, k"')

def parse_input(input):

    quote_mod = int(not input.startswith('"'))

    input = input.split('"')
    for item in input:
        if item == '':
            input.remove(item)
    for i in range(len(input)):
        if i % 2 == quoted_mod:
            input[i] = input[i].replace(",", "#COMMA#")

    input = "".join(input).split(",")
    for item in input:
        if item == '':
            input.remove(item)
    for i in range(len(input)):
        input[i] = input[i].replace("#COMMA#", ",")
    return input

# parse_input('a,"string, with",various,"values, and some",quoted')
#  -> ['a,string', ' with,various,values', ' and some,quoted']
# parse_input('"a,b",c,"d,e,f,h","i,j,k"')
#  -> ['a,b', 'c', 'd,e,f,h', 'i,j,k']

Похоже, у вас здесь есть хорошие ответы.

Для тех из вас, кто хочет обрабатывать свой собственный синтаксический анализ файла CSV, прислушайтесь к советам экспертов и не используйте собственный анализатор CSV .

Ваша первая мысль: «Мне нужно обрабатывать запятые внутри кавычек».

Следующей вашей мыслью будет: «Вот дерьмо, мне нужно обрабатывать кавычки внутри кавычек. Экранированные кавычки. Двойные кавычки. Одинарные кавычки ...

Это путь к безумию. Не пишите свои собственные. Найдите библиотеку с обширным охватом модульного тестирования, которая затрагивает все сложные моменты и прошла через ад за вас. Для .NET используйте бесплатную библиотеку FileHelpers .

Что, если в исходной строке появится нечетное количество кавычек?

Это странно похоже на синтаксический анализ CSV, который имеет некоторые особенности обработки полей в кавычках. Поле экранируется только в том случае, если поле разделено двойными кавычками, поэтому:

поле1, поле2, поле3, поле4, поле5, поле6, поле7

становится

поле1

поле2, поле3

поле4

"поле5

поле6 "поле7

Обратите внимание, если оно не начинается и не заканчивается кавычкой, значит, это не поле в кавычках, а двойные кавычки просто обрабатываются как двойные кавычки.

Очевидно, мой код, на который кто-то ссылался, на самом деле не обрабатывает это правильно, если я правильно помню.

Я просто не мог сопротивляться, чтобы посмотреть, смогу ли я заставить его работать в однострочном Python:

arr = [i.replace("|", ",") for i in re.sub('"([^"]*)\,([^"]*)"',"\g<1>|\g<2>", str_to_test).split(",")]

Возвращает ['a', 'строка, с', 'различными', 'значениями и некоторыми', 'цитируемыми']

Он работает, сначала заменяя ',' внутри кавычек на другой разделитель (|), разделяя строку на ',' и заменяя | разделитель снова.

Вот один псевдокод (он же Python) за один проход :-P

def parsecsv(instr):
    i = 0
    j = 0

    outstrs = []

    # i is fixed until a match occurs, then it advances
    # up to j. j inches forward each time through:

    while i < len(instr):

        if j < len(instr) and instr[j] == '"':
            # skip the opening quote...
            j += 1
            # then iterate until we find a closing quote.
            while instr[j] != '"':
                j += 1
                if j == len(instr):
                    raise Exception("Unmatched double quote at end of input.")

        if j == len(instr) or instr[j] == ',':
            s = instr[i:j]  # get the substring we've found
            s = s.strip()    # remove extra whitespace

            # remove surrounding quotes if they're there
            if len(s) > 2 and s[0] == '"' and s[-1] == '"':
                s = s[1:-1]

            # add it to the result
            outstrs.append(s)

            # skip over the comma, move i up (to where
            # j will be at the end of the iteration)
            i = j+1

        j = j+1

    return outstrs

def testcase(instr, expected):
    outstr = parsecsv(instr)
    print outstr
    assert expected == outstr

# Doesn't handle things like '1, 2, "a, b, c" d, 2' or
# escaped quotes, but those can be added pretty easily.

testcase('a, b, "1, 2, 3", c', ['a', 'b', '1, 2, 3', 'c'])
testcase('a,b,"1, 2, 3" , c', ['a', 'b', '1, 2, 3', 'c'])

# odd number of quotes gives a "unmatched quote" exception
#testcase('a,b,"1, 2, 3" , "c', ['a', 'b', '1, 2, 3', 'c'])

Вот простая реализация Python, основанная на псевдокоде Пэта:

def splitIgnoringSingleQuote(string, split_char, remove_quotes=False):
    string_split = []
    current_word = ""
    inside_quote = False
    for letter in string:
      if letter == "'":
        if not remove_quotes:
           current_word += letter
        if inside_quote:
          inside_quote = False
        else:
          inside_quote = True
      elif letter == split_char and not inside_quote:
        string_split.append(current_word)
        current_word = ""
      else:
        current_word += letter
    string_split.append(current_word)
    return string_split