суббота, 6 апреля 2013 г.

Видео с конференции PyData

PyData - это конференция и семинар, посвященный вопросам управления, анализа и представления данных различных типов и объемов. Акцент в основном делается на обработку больших объемов данных. В этом году PyData прошел в Санта-Клара, США

Домашняя страница PyData
Видео с конференции на vimeo

воскресенье, 10 марта 2013 г.

Неблокируемая imap функция для gevent библиотеки

В состав библиотеки gevent для работы с группой или пулом greenlet-ов входят функции imap и imap_unordered. Функции удобны для распараллеливания однотипных сетевых задач, таких как резолвинг DNS имен, получение данных RSS лент и т.д. Для случаев, когда необходимо в параллель с работой пула или группы greenlet-ов выполнять обработку уже полученных данных или иметь возможность добавлять в очередь на обработку новые исходные данные, стандартные функции не всегда могут быть удобны.

четверг, 21 февраля 2013 г.

pyactors - модель акторов на python

Предыдущий пост о модели акторов стал началом небольшого экспериментального проекта pyactors - реализация модели акторов на python. Этот проект вернул к жизни наработки одного из ранних проектов pyflowctrl и стал частью функционала pyactors. Главная идея акторов хорошо раскрыта в посте "Модель вычислений на базе акторов (видео)", поэтому остановлюсь лишь на специфике библиотеки pyactors.

Библиотека доступна на github ownport/pyactors, а также через PyPi. Установка через pip:
$ pip install pyactors

четверг, 10 января 2013 г.

Модель вычислений на базе акторов (видео)

Карл Хьюитт объясняет суть модели вычислений на базе акторов.


Источник: letitcrash.com

понедельник, 31 декабря 2012 г.

Сетевая установка Ubuntu 12.10

Недавно нужно было установить Ubuntu, http://www.ubuntu.com/ на лептоп. Казалось на первый взгляд простая задача обернулась небольшими сложностями. Вопрос в том, что согласно политик безопасности загрузка операционной системы для этого лептопа возможна только с жесткого диска или по сети, а изменение параметров BIOS закрыт по паролю.

пятница, 14 декабря 2012 г.

среда, 12 декабря 2012 г.

Потоковая обработка данных с помощью модели акторов (Actor Model)

В компьютерных науках модель акторов представляет собой математическую модель параллельных вычислений, которая трактует понятие "актор" как универсальный примитив параллельного численного расчета: в ответ на сообщения, которые он получает, актор может принимать локальные решения, создавать новых акторов, посылать свои сообщения, а также устанавливать, как следует реагировать на последующие сообщения. Модель акторов возникла в 1973 году. Она использовалась как основа для понимания исчисления процессов и как теоретическая база для ряда практических реализаций параллельных систем. Wikipedia, Модель акторов

В презентации рассмотрена модель акторов и опыт промышленного использования её реализации на языке Scala в фреймворке Akka, позаимствовавшем успешные решения из мира Erlang, на примере систем потоковой обработки данных, разрабатываемых в Яндекс.

воскресенье, 9 декабря 2012 г.

Преобразование относительных URL в абсолютные

Небольшой скрипт на python rel2abs.py позволяющий выполнить преобразование относительных URL в абсолютные.

rel2abs(<html_code>, <base_url>)

Пример:
>>> from rel2abs import rel2abs
>>> rel2abs('<a href="/page/1">', 'http://www.example.com')
''<a href="http://www.example.com/page/1">'

пятница, 30 ноября 2012 г.

Книга "Deploying OpenStack"

Давно не попадалась в руки техническая книга, где все собрано по существу, кратко, понятно, которая читалась бы легко и непринужденно. Единственное, правильнее было бы назвать ее как "OpenStack Introduction". Если интересна технология, архитектура IaaS платформы OpenStack, то эту книгу можно порекомендовать как первую к прочтению. После нее, следующий этап - основная документация и Wiki

Ссылка на O'Reilly "Deploying OpenStack"

четверг, 29 ноября 2012 г.

Трейнинги Udacity для offline обучения

Если раньше для обучения в Udacity требовалось подключение к Интернет, то сейчас трейнинги доступны для скачивания.

  • CS101 - Intro to Computer Science: Building a Search Engine
  • PH100 - Intro to Physics: Landmarks in Physics
  • ST101 - Intro to Statistics: Making Decisions Based on Data
  • CS215 - Algorithms: Crunching Social Networks
  • CS222 - Differential Equations: Making Math Matter
  • CS253 - Web Application Engineering: How to Build a Blog
  • CS259 - Software Debugging: Automating the Boring Tasks
  • CS262 - Programming Languages: Building a Web Browser
  • CS212 - Design of Computer Programs: Programming Principles
  • CS313 - Introduction to Theoretical Computer Science
  • CS373 - Artificial Intelligence: Programming a Robotic Car
  • CS387 - Applied Cryptography: The Science of Secrets
  • EP245 - How to Build a Startup: The Lean LaunchPad