First experiments with ML using Keras

screenshot-from-2016-11-15-15-24-11

I’m still exploring the new world of machine learning.

Recently I discovered few interesting things about it:

  • It’s not only for math nerds. A lot of tools are on market, you just have to understand how to use them
  • There are a lot of application of ML, it might be hard to see that from the first sight but it because it’s a completely new way of solving problems you probably never thought about
  • Investors LOVE it, any project which has AI/ML in the description make it more attractive for investments
  • It’s the next Big Thing as you might see already
  • A lot of human’s mechanic work can be replaced with AI
  • In terms of scientific researches I see two kind of them: 1) Very deep math used for building ML tools 2) Adaptation of existing tools, model configurations, best practices for new applications

Hence, I started experimenting with it. First of them was Prisma-like chat bot for Facebook which uses open source implementation of neural style transfer algorithm. Then I made AI-powered visa sponsored job search engine which discovers companies’ websites and walk over job listings to extract vacancies. It uses CNN for binary classification to recognise job listings.

Read more

А кажется много не надо

ubuntu-install

Я старался и стараюсь всю жизнь обходиться минимальным удобныбными инструментами

В 14 мне казалось что не нужно дорогой паяльной станции с регулятором температуры и заземлением – а стал заниматься микроэлектроникой
В 15 мне казалось что скорость интернета – вторична, 300кбит есть и хватит – а стал продавать интернет
В 17 я был счастлив с Pentium I, пока другие играли в игры я мне для консоли хватало линукса

В 20 у меня был микронут от Lenovo c Intel Centrino, я писал на поганом пхп и впринципе не тормозило, но накопилось потихоньку. Как известно – java занимается двумя вещами: жрёт память и тормозит, пришлось добавить памяти. Тулы начинали тормозить, пришлось купить другой ноут

Я был очень счастлив на i3 с 4гб памяти но потихоньку тулы (idea, android) стали всё тяжелее и тяжелее. Мне не казалось это большой проблемой особенно смотря на прожорливые макось и венду, которым 4гб надо было чтоб просто запуститься, я уж не говорю про работу

Потом система сборки андроида стала создавать десятки тысяч файлов, а идея – строить гигабайтные индексы. Я со своей скромностью(я ж не мажор и не геймер!) не сразу решился купить SSD. Он кстати заметно помог.

В какой то момент времени система сборки Андроид просто перестала обновляться – эти идиоты прекратили поддержку 32х. Смешно, что при этом всё равно часть тулов работали на 32 и поэтому нужно было ставить 32х подсистему в 64х ось. Гугл Алё, всё в порядке в консерватории?! Ладно тулы для разработчиков – даже chrome перестал поддерживаться для 32х версии.

И вот сейчас сижу я с i7, с 12гб памяти в которую очевидно помещается сильно меньше при тех же задачах в 32х системе, /tmp – в ramfs, файловый кэш/индекс идеи – на незашифрованном диске. So far so good.

И вдруг меня потянуло на ML. Я только начал, но уже надоело проводить эксперименты оставляя тренироваться модель каждый раз тюня на чуть-чуть на ночь чтоб утром посмотреть результаты – приходится заранее планировать машинное время, это похоже на девяностые годы, да?) А какая альтернатива? Платить кучу денег amazon ec2 или покупать десктоп за £1000+ с какой нить GTX 1080?

Вроде стараюсь быть очень скромным, но внешние тулы/экосистема поддталкивают к использованию более дорогих инструментов, ближе к конфигурации игрового компьютера. А это понятие у меня вызывает некоторое неодобрение, наверное я с дества как то слышал что кому-то там нужна игровая машина, и по факту они на ней делали напорядки меньше чем я на сильно более слабых.

рефлексия

Руксы в Лондоне: 2 года

london-road-sign

Вот и прошло два года.

Я чувствую что надо написать что нить про это в посте, чтоб зафиксировать текущее восприятие города и людей тут.

Культура

По началу казалось что британцы очень занощивые(“posh”) люди, думаю это было навеянно стереотипами об Англии. На самом деле я бы не сказал что это так. Они очень гордятся своими университетами – в любом знакомстве с чуваком из UCL/Cambridge/Oxford объязательно будет упомянуто место обучения. Причем не больше, чем выходец из МГУ гордится своим университетом. Я не знаю откуда это взялось, возможно как то частично связанно с акцентом – звучит ну очень posh и с привычкой использовать время perfect.

Лондон – арт город. Невероятное количество художников, музыканов. Они играют на улице, в метро, государство выделяет им специальные места для своих перфомансов(сходите вечером на Jubilee bridges или Southbank Centre). Тут очень много графити – но это картины, а не непонятно написанные имена, разумеется тут гадят и вандалы, но их мало.

Read more

«Чем заняться сегодня?»

time-is-flying

С детства нам прививают безосознанный, практически на уровне рефлексов, график нашего дня, месяца, года, жизни. Я не утверждаю хорошо ли это или плохо, но так выходит (и надеюсь это не со зла). Школа – самый яркий пример. Проснутсья рано, собраться, пойти в школу, там “отсидеть”, после школы сделать уроки и погулять в свободное время. А в 9 вечера – «спокойной ночи малыши» и спать. И так по циклу

Что ещё хуже, родители любят своих детей и неправильно фольмулируют задачу – мол, хорошие оценки значит всё в жизни будет. Да нифига. Вспомните свой первый курс и хвастающихся одногрупников с красным дипломом, сколько процентов из них не дошло до второго курса или скатились в дно? В их сознании они уже победили и дальше делать ничего не надо, всё будет само.

Общество нам навеевает расписание жизни: родиться, садик, школа, универ, семья, работа до конца. Всех кто нарушает этот режим – презирают, ибо нельзя быть на столько другим.

Мозг аттрафируется и перестаёт думать. Перестаёт думать о завтра, о интересах, о саморазвитии – уже с детсадовского возраста известны планы на всю жизнь. Хочешь получить второе образование после 30 – а зачем? Хочешь научиться рисовать после 20 – как тебе это поможет в работе на заводе? Хочешь выучить язык – тебе заняться больше нечем?.

Read more

Эксперимент: Guess City 360°

feature-nyc-or-chicaco-1024x500

Я себя давно уже пытаюсь заставить каждый раз хотя бы в кратце описывать свои эксперименты и пет-проджекты в бложике, хотя бы для себя.

На этот раз расскажу про Guess City 360 – игрушка (что для меня очень не свойственно) для путешественников, для тех кто хочет ими стать. Диванные путешественники тоже подходят. Игра очень простая – каждый раз вы оказываетесь в совершенно случайном месте на земле и ваша задача – понять где вы, гуляя по улицам, читая таблички, рассматривая архитектуру, прохожих, машины и тд.

Read more

Игры с neural style transfer

lotus-full

Последний месяц для саморазвлечения в качестве сайд-проекта играюсь с neural style transfer – нейронные сети, переносящие стиль с картинки на картинку. Многие знают это как приложение Prisma. Видимо создатели тоже читают блог creativeai :)

Первая реализация появилась больше 8 месяцев назад и доступна на github jcjohnson/neural-style – она написанна на lua, всё замечательно, кроме того что работает она вечность (и жрёт почти бесконечность памяти). На Digital Ocean с 16 swap генерация картинки 450×200 заняла около 2 минут, сейчас уже не помню.

Read more

Подборка подкастов, лето 2016

IMG_20160623_234023

Screenshot_2016-06-23-22-09-10
Продолжаю слушать подкасты, страшно представить сколько недель информации и прочей милой болтавни я услышал за эти два года с момента публикации подборки в 2013году

Новый список, отсортированный по моему личному рейтингу (первыми идут те, которые я скорее всего послушаю в первую очередь)

IT/разработка

  1. Радио-Т – приятная болтовня на айтишные темы, раз в месяц – гиковский выпуск где разбираются программерские темы. Отличный звук, живая дискуссия, очень советую для старта

  2. DevZen – команда из 4ёх ведущих + частые гости. О разработке, паксасах, виртуализации, хаскеле, разбором научных публикаций и кучей очень глубоких программерских тем. Очень советую любителям хардкора. За выпуск обсуждают обсуждают около 10-20 тем, очень прокачанные и активные ребята

Read more

Руксы а Лондоне: почему метро это не классно

wp-1466158593234.jpg

Метро(tube) является одним из символов города, на равне с красными двухэтажными автобусами. Помимо того, что это самое старое метро оно реально покрывает весь город.

Те, кто видели карту знают, что метро бывает очень разное: overground, underground(11 линий, 270 станций), DLR(2 линии) и все это в добавок часто имеет пересечение с проезжающими проездами, которые можно использовать как метро

london-tube-map

Глядя на толпы людей расползающихся вечером в подземку невольно думаешь: «тысячи мух не могут ошибаться»! И поэтому раз в месяц я делаю эту ошибку – спускаюсь вниз.

Read more

Мой сетап

my-desktop-background

Основная машина

ASUS x305 – в принципе устраивает во всем. Как всегда хотелось бы полегче

  • 12Gb, 256Gb SSD, i7
  • Британская раскладка клавиатуры, поэтому по началу было тяжело.
  • Тачпад говно, но не так плохо как в ноуте от Юлмарта. Как миниум два пальца распознаёт при скролинге по обоим направлениям
  • Батарейка нормальная – заряжается за час, хватает на 4-6 часов
  • В целом вроде не плохая машинка, выглядит довольно крепко

Read more

Рукс веган

rux-vegan

(На самом деле нет)

Мне всегда было интересно, как веганы/вегетарианецы вообще живут без мяса. Казалось это просто не мыслимо – уж слишком я люблю курицу, утку и рыбу (и практически всегда избегаю другое мясо – тупо не нравится вкус)

Я уже давно хотел провести эксперимент над собой и попробовать пожить как они.

rux-eats-oat

Завтрак – вообще не поменялся. Последний год каждое утро я начинаю с овсянки(Овсянка, Сэр! ©) на соевом молоке, часто – с виноградом или другими сладкими фруктами, т.к. каша без сахара

Read more