Полезный код, использующий reduce ()?

Есть ли у кого-нибудь здесь полезный код, который использует функцию reduce () в python? Есть ли какой-нибудь другой код, кроме обычных + и *, который мы видим в примерах?

Обратитесь к Fate of reduce () в Python 3000 от GvR

Ответов (24)

reduce() может использоваться для разрешения имен, разделенных точками (где eval() это слишком небезопасно для использования):

>>> import __main__
>>> reduce(getattr, "os.path.abspath".split('.'), __main__)
<function abspath at 0x009AB530>

Reduce не ограничивается скалярными операциями; его также можно использовать для сортировки вещей по ведрам. (Это то, что я использую чаще всего).

Представьте себе случай, когда у вас есть список объектов, и вы хотите реорганизовать его иерархически на основе свойств, хранящихся в объекте. В следующем примере я создаю список объектов метаданных, связанных со статьями в газете с кодировкой XML, с помощью articles функции. articles генерирует список элементов XML, а затем отображает их один за другим, создавая объекты, содержащие некоторую интересную информацию о них. Во внешнем интерфейсе я хочу, чтобы пользователь мог просматривать статьи по разделам / подразделам / заголовкам. Поэтому я использую, reduce чтобы взять список статей и вернуть единственный словарь, который отражает иерархию разделов / подразделов / статей.

from lxml import etree
from Reader import Reader

class IssueReader(Reader):
    def articles(self):
        arts = self.q('//div3')  # inherited ... runs an xpath query against the issue
        subsection = etree.XPath('./ancestor::div2/@type')
        section = etree.XPath('./ancestor::div1/@type')
        header_text = etree.XPath('./head//text()')
        return map(lambda art: {
            'text_id': self.id,
            'path': self.getpath(art)[0],
            'subsection': (subsection(art)[0] or '[none]'),
            'section': (section(art)[0] or '[none]'),
            'headline': (''.join(header_text(art)) or '[none]')
        }, arts)

    def by_section(self):
        arts = self.articles()

        def extract(acc, art):  # acc for accumulator
            section = acc.get(art['section'], False)
            if section:
                subsection = acc.get(art['subsection'], False)
                if subsection:
                    subsection.append(art)
                else:
                    section[art['subsection']] = [art]
            else:
                acc[art['section']] = {art['subsection']: [art]}
            return acc

        return reduce(extract, arts, {})

Я привожу здесь обе функции, потому что считаю, что это показывает, как map и reduce могут хорошо дополнять друг друга при работе с объектами. То же самое можно было бы сделать с помощью цикла for, ... но серьезное времяпровождение с функциональным языком заставляло меня думать в терминах сопоставления и сокращения.

Между прочим, если у кого-нибудь есть лучший способ установить свойства, как это делаю я extract, где родители свойства, которое вы хотите установить, могут еще не существовать, сообщите мне.

reduce можно использовать для получения списка с максимальным n-м элементом

reduce(lambda x,y: x if x[2] > y[2] else y,[[1,2,3,4],[5,2,5,7],[1,6,0,2]])

вернет [5, 2, 5, 7], поскольку это список с максимальным 3-м элементом +

Состав функций : если у вас уже есть список функций, которые вы хотите применить последовательно, например:

color = lambda x: x.replace('brown', 'blue')
speed = lambda x: x.replace('quick', 'slow')
work = lambda x: x.replace('lazy', 'industrious')
fs = [str.lower, color, speed, work, str.title]

Затем вы можете применить их все последовательно с помощью:

>>> call = lambda s, func: func(s)
>>> s = "The Quick Brown Fox Jumps Over the Lazy Dog"
>>> reduce(call, fs, s)
'The Slow Blue Fox Jumps Over The Industrious Dog'

В этом случае цепочка методов может быть более читаемой. Но иногда это невозможно, и такая композиция может быть более удобочитаемой и удобной, чем какой- f1(f2(f3(f4(x)))) то синтаксис.

Использование reduce (), чтобы узнать, является ли список дат последовательным:

from datetime import date, timedelta


def checked(d1, d2):
    """
    We assume the date list is sorted.
    If d2 & d1 are different by 1, everything up to d2 is consecutive, so d2
    can advance to the next reduction.
    If d2 & d1 are not different by 1, returning d1 - 1 for the next reduction
    will guarantee the result produced by reduce() to be something other than
    the last date in the sorted date list.

    Definition 1: 1/1/14, 1/2/14, 1/2/14, 1/3/14 is consider consecutive
    Definition 2: 1/1/14, 1/2/14, 1/2/14, 1/3/14 is consider not consecutive

    """
    #if (d2 - d1).days == 1 or (d2 - d1).days == 0:  # for Definition 1
    if (d2 - d1).days == 1:                          # for Definition 2
        return d2
    else:
        return d1 + timedelta(days=-1)

# datelist = [date(2014, 1, 1), date(2014, 1, 3),
#             date(2013, 12, 31), date(2013, 12, 30)]

# datelist = [date(2014, 2, 19), date(2014, 2, 19), date(2014, 2, 20),
#             date(2014, 2, 21), date(2014, 2, 22)]

datelist = [date(2014, 2, 19), date(2014, 2, 21),
            date(2014, 2, 22), date(2014, 2, 20)]

datelist.sort()

if datelist[-1] == reduce(checked, datelist):
    print "dates are consecutive"
else:
    print "dates are not consecutive"

Допустим, есть некоторые годовые статистические данные, хранящиеся в списке счетчиков. Мы хотим найти значения MIN / MAX для каждого месяца в разные годы. Например, для января это будет 10. А для февраля - 15. Нам нужно сохранить результаты в новом счетчике.

from collections import Counter

stat2011 = Counter({"January": 12, "February": 20, "March": 50, "April": 70, "May": 15,
           "June": 35, "July": 30, "August": 15, "September": 20, "October": 60,
           "November": 13, "December": 50})

stat2012 = Counter({"January": 36, "February": 15, "March": 50, "April": 10, "May": 90,
           "June": 25, "July": 35, "August": 15, "September": 20, "October": 30,
           "November": 10, "December": 25})

stat2013 = Counter({"January": 10, "February": 60, "March": 90, "April": 10, "May": 80,
           "June": 50, "July": 30, "August": 15, "September": 20, "October": 75,
           "November": 60, "December": 15})

stat_list = [stat2011, stat2012, stat2013]

print reduce(lambda x, y: x & y, stat_list)     # MIN
print reduce(lambda x, y: x | y, stat_list)     # MAX
import os

files = [
    # full filenames
    "var/log/apache/errors.log",
    "home/kane/images/avatars/crusader.png",
    "home/jane/documents/diary.txt",
    "home/kane/images/selfie.jpg",
    "var/log/abc.txt",
    "home/kane/.vimrc",
    "home/kane/images/avatars/paladin.png",
]

# unfolding of plain filiname list to file-tree
fs_tree = ({}, # dict of folders
           []) # list of files
for full_name in files:
    path, fn = os.path.split(full_name)
    reduce(
        # this fucction walks deep into path
        # and creates placeholders for subfolders
        lambda d, k: d[0].setdefault(k,         # walk deep
                                     ({}, [])), # or create subfolder storage
        path.split(os.path.sep),
        fs_tree
    )[1].append(fn)

print fs_tree
#({'home': (
#    {'jane': (
#        {'documents': (
#           {},
#           ['diary.txt']
#        )},
#        []
#    ),
#    'kane': (
#       {'images': (
#          {'avatars': (
#             {},
#             ['crusader.png',
#             'paladin.png']
#          )},
#          ['selfie.jpg']
#       )},
#       ['.vimrc']
#    )},
#    []
#  ),
#  'var': (
#     {'log': (
#         {'apache': (
#            {},
#            ['errors.log']
#         )},
#         ['abc.txt']
#     )},
#     [])
#},
#[])

У меня есть объекты, представляющие какие-то перекрывающиеся интервалы (геномные экзоны), и я переопределил их пересечение, используя __and__ :

class Exon:
    def __init__(self):
        ...
    def __and__(self,other):
        ...
        length = self.length + other.length  # (e.g.)
        return self.__class__(...length,...)

Затем, когда у меня есть их коллекция (например, в том же гене), я использую

intersection = reduce(lambda x,y: x&y, exons)

reduce может использоваться для поддержки поиска связанных атрибутов:

reduce(getattr, ('request', 'user', 'email'), self)

Конечно, это эквивалентно

self.request.user.email

но это полезно, когда ваш код должен принимать произвольный список атрибутов.

(Связанные атрибуты произвольной длины распространены при работе с моделями Django.)

reduce полезен, когда вам нужно найти объединение или пересечение последовательности set -подобных объектов.

>>> reduce(operator.or_, ({1}, {1, 2}, {1, 3}))  # union
{1, 2, 3}
>>> reduce(operator.and_, ({1}, {1, 2}, {1, 3}))  # intersection
{1}

(Помимо фактических set s, примером этого являются объекты Q Django .)

С другой стороны, если вы имеете дело с bool s, вам следует использовать any and all :

>>> any((True, False, True))
True

Я думаю, что сокращение - глупая команда. Следовательно:

reduce(lambda hold,next:hold+chr(((ord(next.upper())-65)+13)%26+65),'znlorabggbbhfrshy','')

Я только что нашел полезное использование reduce : разделение строки без удаления разделителя . Код полностью взят из блога Programatic Speaking. Вот код:

reduce(lambda acc, elem: acc[:-1] + [acc[-1] + elem] if elem == "\n" else acc + [elem], re.split("(\n)", "a\nb\nc\n"), [])

Вот результат:

['a\n', 'b\n', 'c\n', '']

Обратите внимание, что он обрабатывает крайние случаи, которых не делает популярный ответ в SO. Для более подробного объяснения я перенаправляю вас к исходному сообщению в блоге.

Я использовал reduce для объединения список векторов поиска PostgreSQL с || оператором в sqlalchemy-searchchable:

vectors = (self.column_vector(getattr(self.table.c, column_name))
           for column_name in self.indexed_columns)
concatenated = reduce(lambda x, y: x.op('||')(y), vectors)
compiled = concatenated.compile(self.conn)
def dump(fname,iterable):
  with open(fname,'w') as f:
    reduce(lambda x, y: f.write(unicode(y,'utf-8')), iterable)

Не уверен, что это то, что вам нужно, но вы можете поискать исходный код в Google .

Перейдите по ссылке для поиска "function: reduce () lang: python" в поиске Google Code.

На первый взгляд следующие проекты используют reduce()

  • МойнМойн
  • Zope
  • Числовой
  • Научный Питон

и т.д. и т.п., но в этом нет ничего удивительного, поскольку это огромные проекты.

Функциональность сокращения может быть реализована с помощью рекурсии функций, что, как мне кажется, Гвидо считал более явным.

Обновлять:

Так как поиск кода Google был прекращен 15 января 2012 года, помимо возврата к обычному поиску в Google, есть нечто под названием Code Snippets Collection, которое выглядит многообещающим. В ответах на этот (закрытый) вопрос упоминается ряд других ресурсов. Замена для Google Code Search? .

Обновление 2 (29 мая 2017 г.):

Хорошим источником примеров Python (в открытом коде) является поисковая система Nullege .

reduce() может использоваться для поиска наименьшего общего кратного для 3 или более чисел :

#!/usr/bin/env python
from fractions import gcd
from functools import reduce

def lcm(*args):
    return reduce(lambda a,b: a * b // gcd(a, b), args)

Пример:

>>> lcm(100, 23, 98)
112700
>>> lcm(*range(1, 20))
232792560

Найдите пересечение N заданных списков:

input_list = [[1, 2, 3, 4, 5], [2, 3, 4, 5, 6], [3, 4, 5, 6, 7]]

result = reduce(set.intersection, map(set, input_list))

возвращает:

result = set([3, 4, 5])

через: Python - пересечение двух списков

Вы можете заменить value = json_obj['a']['b']['c']['d']['e'] на:

value = reduce(dict.__getitem__, 'abcde', json_obj)

Если у вас уже есть путь a/b/c/.. в виде списка. Например, изменить значения в словах вложенных слов, используя элементы в списке .

У меня есть старая реализация Python для pipegrep, которая использует сокращение и модуль glob для создания списка файлов для обработки:

files = []
files.extend(reduce(lambda x, y: x + y, map(glob.glob, args)))

В то время мне это показалось удобным, но на самом деле в этом нет необходимости, так как что-то подобное так же хорошо и, вероятно, более читабельно.

files = []
for f in args:
    files.extend(glob.glob(f))

@Blair Conrad: Вы также можете реализовать свой glob / reduce, используя сумму, например:

files = sum([glob.glob(f) for f in args], [])

Это менее многословно, чем в любом из ваших двух примеров, идеально подходит для Python и по-прежнему представляет собой всего лишь одну строку кода.

Итак, чтобы ответить на исходный вопрос, я лично стараюсь избегать использования reduce, потому что в этом нет необходимости, и я считаю, что это менее понятно, чем другие подходы. Однако некоторые люди привыкли сокращать и предпочитают перечислять понимания (особенно программисты на Haskell). Но если вы еще не думаете о проблеме с точки зрения сокращения, вам, вероятно, не нужно беспокоиться об ее использовании.

После greping моего кода кажется, что единственное, что я использовал для сокращения, - это вычисление факториала:

reduce(operator.mul, xrange(1, x+1) or (1,))

Использование того, reduce что я нашел в своем коде, связано с ситуацией, когда у меня была некоторая структура классов для логического выражения, и мне нужно было преобразовать список этих объектов выражения в соединение выражений. У меня уже была функция make_and для создания конъюнкции по двум выражениям, поэтому я написал reduce(make_and,l) . (Я знал, что список не пустой, иначе было бы что-то вроде reduce(make_and,l,make_true) .)

Именно по этой причине (некоторым) функциональным программистам нравятся reduce (или складываются функции, как обычно их называют). Есть часто уже много бинарных функций , таких как +, *, min, max, конкатенация и, в моем случае, make_and и make_or . Наличие a reduce делает тривиальным преобразование этих операций в списки (или деревья, или что-то еще, для функций сворачивания в целом).

Конечно, если sum часто используются определенные экземпляры (например, ), то вы не хотите продолжать писать reduce . Однако вместо того, чтобы определять с sum помощью некоторого цикла for, вы можете так же легко определить его с помощью reduce .

Читаемость, как упоминалось другими, действительно является проблемой. Однако вы можете возразить, что единственная причина, по которой люди находят reduce менее «ясным», состоит в том, что это не функция, которую многие люди знают и / или используют.

Другие применения, которые я нашел для него, помимо + и *, были с и и или, но теперь у нас есть any и all для замены этих случаев.

foldl и foldr действительно много придумываю в Scheme ...

Вот несколько милых приемов:

Свести список

Цель: превратиться [[1, 2, 3], [4, 5], [6, 7, 8]] в [1, 2, 3, 4, 5, 6, 7, 8] .

reduce(list.__add__, [[1, 2, 3], [4, 5], [6, 7, 8]], [])

Список цифр в число

Цель: превратиться [1, 2, 3, 4, 5, 6, 7, 8] в 12345678 .

Ugly, slow way:

int("".join(map(str, [1,2,3,4,5,6,7,8])))

Pretty reduce way:

reduce(lambda a,d: 10*a+d, [1,2,3,4,5,6,7,8], 0)

Я пишу функцию составления для языка, поэтому я создаю составную функцию, используя сокращение вместе с оператором применения.

Вкратце, compose принимает список функций, которые нужно объединить в одну функцию. Если у меня есть сложная операция, которая выполняется поэтапно, я хочу собрать все это так:

complexop = compose(stage4, stage3, stage2, stage1)

Таким образом, я могу применить его к такому выражению:

complexop(expression)

И я хочу, чтобы это было эквивалентно:

stage4(stage3(stage2(stage1(expression))))

Теперь, чтобы построить свои внутренние объекты, я хочу, чтобы он сказал:

Lambda([Symbol('x')], Apply(stage4, Apply(stage3, Apply(stage2, Apply(stage1, Symbol('x'))))))

(Класс Lambda создает пользовательскую функцию, а Apply создает приложение-функцию.)

Теперь, к сожалению, уменьшите складки не так, поэтому я примерно использовал:

reduce(lambda x,y: Apply(y, x), reversed(args + [Symbol('x')]))

Чтобы выяснить, что дает сокращение, попробуйте это в REPL:

reduce(lambda x, y: (x, y), range(1, 11))
reduce(lambda x, y: (y, x), reversed(range(1, 11)))