УМННБJ, ЯХВ. Войти !bnw Сегодня Клубы
Проекту avito2rss требуется больше прокси-серверов. В настоящее время используется только три. Так как им приходится обслуживать уже 2328 фидов, время обновления каждого фида выросло до двух часов. Если у вас есть постоянно включенный VPS, вы можете поднять у себя squid3, который будет использовать скрейпер avito2rss для обновления фидов: http://dump.bitcheese.net/files/ekolote/squidy.tar.gz В basic-passwords задайте любой пароль и отправьте его в xmpp:komar@bitcheese.net вместе с адресом вашего VPS’а. В rc.local находится пример, как эту херню запускать при старте. Спасибо.
Рекомендовали: @ninesigns @minoru @krkm @like-all
#L0KJKY / @komar / 3227 дней назад

>squid3 хули не… бля, я не смог придумать чего-то более тяжеловесного
#L0KJKY/UW5 / @nebeda / 3227 дней назад
@nebeda Небедашенька, тебя и так люблю, без всякой помощи, отъебись.
#L0KJKY/HO8 / @komar --> #L0KJKY/UW5 / 3227 дней назад
@komar блядь, ответь по сути, какого хуя не предложить прокси полегче, тысячи их крохотных и живых?
#L0KJKY/OJM / @nebeda --> #L0KJKY/HO8 / 3227 дней назад
@komar inb4 ты их не знаешь и пизданул то, чем в офисе админ порнуху палил
#L0KJKY/VIS / @nebeda --> #L0KJKY/HO8 / 3227 дней назад
@nebeda Небеда, ты можешь настоить любое дерьмо, хоть сам на хуяскеле написать, мне похуй, лишь бы работало стабильно. Но тебе ж не надо, чтобы работало, тебе надо повыебываться. http://dump.bitcheese.net/images/ydisolu/heavy_squid3.png — пиздец тяжеловесное, надо сервер апгрейдить.
#L0KJKY/XLX / @komar --> #L0KJKY/OJM / 3227 дней назад
иди нахуй со своей авитой
#L0KJKY/K1T / @anonymous / 3227 дней назад
@nebeda Я сквидом уже долгое время пользуюсь как reverse proxy вместо варниша. У меня сложилось очень специфичное отношение к разработчикам этого дерьма, но в целом работает очень хорошо. Иногда намного лучше, чем nginx.
#L0KJKY/E54 / @komar --> #L0KJKY/VIS / 3227 дней назад
@komar а вот это уже хотя бы ответ. но всё-таки в сквиде слишком много нинужно
#L0KJKY/CZB / @nebeda --> #L0KJKY/E54 / 3227 дней назад
@komar Ой, ребятоньки, я покорно извиняюсь, я вам не то показал. То я показал тот самый squid, который работает как reverse proxy. Тот, который работает проксей для avito2rss, он вон там, внизу, который 0.3% памяти сожрал: http://dump.bitcheese.net/images/exibegu/heavy-squid3-2.png
#L0KJKY/B93 / @komar --> #L0KJKY/XLX / 3227 дней назад
@nebeda Кому не до пизды, что тебе там не нужно?
#L0KJKY/31V / @komar --> #L0KJKY/CZB / 3227 дней назад
@komar я просто сообщаю, что ты запускаешь говнину, пользуясь мелкой её частью, но ты хочешь похуй-чем-лишь-бы-работало, так что похуй
#L0KJKY/JE5 / @nebeda --> #L0KJKY/31V / 3227 дней назад
@komar не успел ещё отожрать рамы, лол
#L0KJKY/NLI / @nebeda --> #L0KJKY/B93 / 3227 дней назад
@nebeda ну ебать тебя в рот, а я думал это специально написали чтобы скрейпер авиты работал век учись нахуй
#L0KJKY/RTQ / @komar --> #L0KJKY/JE5 / 3227 дней назад
@nebeda % uptime 18:33:31 up 111 days
#L0KJKY/R89 / @komar --> #L0KJKY/NLI / 3227 дней назад
@komar это я видел и выше, при чём бы тут
#L0KJKY/TME / @nebeda --> #L0KJKY/R89 / 3227 дней назад
@komar мог бы в ответ выдать высрище скрипта погоды на марсе, но у меня его нет
#L0KJKY/XNG / @nebeda --> #L0KJKY/R89 / 3227 дней назад
@nebeda При том, что squid в последний раз запускался при запуске системы. Если бы он упал — он упал бы насовсем, потому что РИБУТИЛКИ нет. Вручную я его ни разу не перезагружал. % ps ax -o bsdstart,cmd | grep squid Oct 29 /usr/sbin/squid3 -f squid.conf Oct 29 (squid) -f squid.conf Вот тебе он же на другом сервере: http://dump.bitcheese.net/images/anapevy/heavy-squid3-3.png % ps ax -o bsdstart,cmd | grep squid Jan 1 squid3 -f squid.conf Jan 1 (squid-1) -f squid.conf
#L0KJKY/M9X / @komar --> #L0KJKY/TME / 3227 дней назад
@nebeda Ну чего еще спизданешь, дебильный?
#L0KJKY/VYM / @komar --> #L0KJKY/XNG / 3227 дней назад
@komar я ему про раму, он мне про аптайм
#L0KJKY/4LG / @nebeda --> #L0KJKY/M9X / 3227 дней назад
@nebeda Я тебе про то, что «не успел» — это «не успевает уже четвертый месяц». У меня там ядро дырявое вертится поди.
#L0KJKY/MF5 / @komar --> #L0KJKY/4LG / 3227 дней назад
Не работает нихуя.
#L0KJKY/GGA / @l29ah / 3227 дней назад
@l29ah ну хз, установи дебиан
#L0KJKY/087 / @komar --> #L0KJKY/GGA / 3227 дней назад
@komar У меня и так дебиан, блядь.
#L0KJKY/7C7 / @l29ah --> #L0KJKY/087 / 3227 дней назад
@l29ah Ну тогда вообще хз.
#L0KJKY/T59 / @komar --> #L0KJKY/7C7 / 3227 дней назад
@l29ah Небеда, предложи ему, че ты встал как пень.
#L0KJKY/CY5 / @komar --> #L0KJKY/GGA / 3227 дней назад
@komar чё. я тебе предложил выкинуть сквид и сделать что угодно из списка eix net-proxy/ -c
#L0KJKY/8W7 / @nebeda --> #L0KJKY/CY5 / 3227 дней назад
@nebeda Ну а я про что. Предложи ему что-нибудь из «тысячи маленьких и живых».
#L0KJKY/P0Y / @komar --> #L0KJKY/8W7 / 3227 дней назад
@komar мне лень выяснять, что будет совместимо с твоим говном и почему, сорь. оттестируй что б работало у людей, а не только у комаров
#L0KJKY/5PN / @nebeda --> #L0KJKY/P0Y / 3227 дней назад
@nebeda Спасибо, небеда!
#L0KJKY/M6N / @komar --> #L0KJKY/5PN / 3227 дней назад
Это не страшно? root@SKRS1690:/etc/squid3# htpasswd -d basic-passwords avito2rss New password: Re-type new password: Warning: Password truncated to 8 characters by CRYPT algorithm. Updating password for user avito2rss
#L0KJKY/IEJ / @windowsadmin / 3227 дней назад
@windowsadmin Ох епт, а я совсем забыл, что там CRYPT. Не страшно, наверное.
#L0KJKY/DF4 / @komar --> #L0KJKY/IEJ / 3227 дней назад

@windowsadmin Тащем-та, basic_ncsa_auth поддерживает ещё кучу всего. Просто выбери другой алгоритм.

#L0KJKY/IU1 / @minoru --> #L0KJKY/IEJ / 3227 дней назад
Бля, не работало, набрал iptables -F и потерял доступ к серверу. Заказываю ребут теперь.
#L0KJKY/2EV / @windowsadmin / 3227 дней назад
@windowsadmin windowsadmin :3
#L0KJKY/KWS / @nebeda --> #L0KJKY/2EV / 3227 дней назад
@windowsadmin бля сорь
#L0KJKY/0YV / @komar --> #L0KJKY/2EV / 3227 дней назад
@windowsadmin >не иметь скрипта 'нулевых' правил
#L0KJKY/14V / @nebeda --> #L0KJKY/2EV / 3227 дней назад
#L0KJKY/URE / @anonymous --> #L0KJKY/KWS / 3227 дней назад
@windowsadmin алсо я на случай подобного долбоебизма иногда добавлял в крон iptables-restore
#L0KJKY/4O4 / @nebeda --> #L0KJKY/2EV / 3227 дней назад

@komar > Не страшно, наверное.
Я был просканирован какой-то хуетой на вторую минуту после service squid start. Current status: ебусь с поддержкой более нормальных хешей в basic_ncsa_auth.

#L0KJKY/42G / @minoru --> #L0KJKY/DF4 / 3227 дней назад
Блять, тупой камар, не мог ничего понормальнее взять, хоть нжинкс блять??
#L0KJKY/5J8 / @l29ah / 3227 дней назад

@l29ah Кстати, я поглядел на то, что было в net-proxy, и большинство самого известного говна — mitmproxy, tinyproxy, polipo — не умеет в аутентификацию.

#L0KJKY/POT / @minoru --> #L0KJKY/5J8 / 3227 дней назад
@minoru zipproxy?
#L0KJKY/PBF / @nebeda --> #L0KJKY/POT / 3227 дней назад

@nebeda Впервые слышу. Если обломлюсь с basic_ncsa_auth, погляжу. Спасибо.

#L0KJKY/X74 / @minoru --> #L0KJKY/PBF / 3227 дней назад
@minoru есличо, я не знаю, как у него с аутентификацией, просто спросил
#L0KJKY/AOB / @nebeda --> #L0KJKY/X74 / 3227 дней назад

@minoru Я ещё на Privoxy хотел глянуть, но у меня к тому моменту уже поставился Squid. И началось…

#L0KJKY/OIZ / @minoru --> #L0KJKY/POT / 3227 дней назад
Заработало. Сначала не сообразил, что пароль при проверке не обрезает.
#L0KJKY/5HA / @windowsadmin / 3227 дней назад
@l29ah Исправил в конфиге /usr/lib/squid3/ncsa_auth на /usr/lib/squid3/basic_ncsa_auth
#L0KJKY/P2P / @windowsadmin --> #L0KJKY/7C7 / 3227 дней назад

Настроил. У кого-то проблемы остались ещё, помощь нужна?

#L0KJKY/HRT / @minoru / 3227 дней назад
@windowsadmin Ты это мне?
#L0KJKY/T5D / @l29ah --> #L0KJKY/P2P / 3227 дней назад
@minoru У меня нихуя не работает.
#L0KJKY/MZY / @l29ah --> #L0KJKY/HRT / 3227 дней назад

@l29ah 1. Попробуй просто набрать в командной строке squid -f путь_к_конфигу. Ошибки есть? Какие?
2. Убери из конфига запись про cache_log, перезапусти squid и попялься в /var/log/squid/cache.log (можешь сюда запостить, я гляну тоже).
3. Если предыдущие два шага ничего аномального не показывают, но авторизоваться на проксе все равно не получается, то у тебя скорее всего проблемы с basic_ncsa_auth. Если у тебя есть htpasswd, пользуйся им. Если нету — обращайся, я умею обходиться Интернетом и vim :P

#L0KJKY/590 / @minoru --> #L0KJKY/MZY / 3227 дней назад

@minoru s/авторизоваться/аутентифицироваться/

#L0KJKY/GHX / @minoru --> #L0KJKY/590 / 3227 дней назад
@minoru уау курсы помощи малолетним линуксоидам
#L0KJKY/97X / @nebeda --> #L0KJKY/590 / 3227 дней назад
Кажись починил, а камар чот в жабир не отвечает, спит шоль.
#L0KJKY/FLS / @l29ah / 3227 дней назад
@l29ah вейт, ты это хуяришь на хосте рядом с хитагой?
#L0KJKY/XC5 / @nebeda --> #L0KJKY/FLS / 3227 дней назад

@l29ah Видимо, да; мне час назад тоже не ответил.

#L0KJKY/FJJ / @minoru --> #L0KJKY/FLS / 3227 дней назад
@l29ah просто мне кажется, у камара уже есть прокся на хитаге и нахуй ему вторая там же
#L0KJKY/YR5 / @nebeda --> #L0KJKY/FLS / 3227 дней назад
@nebeda Че блять??
#L0KJKY/22C / @l29ah --> #L0KJKY/YR5 / 3227 дней назад
хуле ты там не смог напарсить проксей/ключей к прокси-листам с гитхуба не хеккер штоле блеать . алсо, нахуя вам аутентификация в проксе?
#L0KJKY/JW2 / @anonymous / 3227 дней назад

@anonymous Комар заботится о нас. Как я уже упоминал в /42G, меня на вторую минуту после запуска прокси уже кто-то сканил. На непривилегированном, не-well-knows, блять, порту!

#L0KJKY/2S1 / @minoru --> #L0KJKY/JW2 / 3227 дней назад
@anonymous дай живые проксилисты плз
#L0KJKY/Q0M / @nebeda --> #L0KJKY/JW2 / 3227 дней назад

@minoru *не-well-known

#L0KJKY/46I / @minoru --> #L0KJKY/2S1 / 3227 дней назад
@minoru конечно сканил, это шок штоле комар-то заходит с известного хоста
#L0KJKY/JTS / @anonymous --> #L0KJKY/2S1 / 3227 дней назад
@nebeda хуле ты там сам не можешь тыкнуть в поиск гитхаба
#L0KJKY/A0Q / @anonymous --> #L0KJKY/Q0M / 3227 дней назад

@anonymous Гм, и правда. Поклянчу у него IP тогда.

#L0KJKY/UZX / @minoru --> #L0KJKY/JTS / 3227 дней назад
алсо, банит ли авита обфс4-бриджи? они не обычные экзиты и даже не релеи, в их списки лезут не все
#L0KJKY/OMA / @nebeda / 3227 дней назад
@minoru пруф или не как лох сам увидишь в логах прокси и сетевого анализатора, где комар
#L0KJKY/OXQ / @nebeda --> #L0KJKY/UZX / 3227 дней назад
@nebeda пруф или ```host avito2rss```
#L0KJKY/382 / @anonymous --> #L0KJKY/OXQ / 3227 дней назад

@nebeda Я увижу, откуда он постучался сегодня. Если у Комара есть планы как-то менять инфраструктуру, то я могу ему навредить своими догадками об адресе. Проще тупо спросить.

#L0KJKY/OYG / @minoru --> #L0KJKY/OXQ / 3227 дней назад
@minoru он пошлёт тебя нахуй и попросит сохранить хуйню про пароль
#L0KJKY/FZB / @nebeda --> #L0KJKY/OYG / 3227 дней назад

@nebeda Что значит «сохранить хуйню про пароль»?

#L0KJKY/8IY / @minoru --> #L0KJKY/FZB / 3227 дней назад
@minoru сохранить конфиг в нынешнем виде, с паролем ._.
#L0KJKY/OS9 / @nebeda --> #L0KJKY/8IY / 3227 дней назад

@nebeda А. Ну вот, видишь, как вредны догадки? Я ведь нигде не предлагал выбросить аутентификацию по паролю, ты это прочёл между строк.

#L0KJKY/NFN / @minoru --> #L0KJKY/OS9 / 3227 дней назад
@minoru а нафига тебе тогда ограничивать по ойпи?
#L0KJKY/2IW / @nebeda --> #L0KJKY/NFN / 3227 дней назад

@nebeda Чтобы не грузили почём зря CPU, пытаясь подобрать пароль (если найдутся желающие, конечно).

#L0KJKY/TJG / @minoru --> #L0KJKY/2IW / 3227 дней назад
@minoru маловероятно //тебе fail2ban зачем дали
#L0KJKY/Y8F / @nebeda --> #L0KJKY/TJG / 3227 дней назад

@nebeda fail2ban ещё настраивать нужно, а тут одну строчку в конфиг прописать и забыть.

#L0KJKY/8PK / @minoru --> #L0KJKY/Y8F / 3227 дней назад
@anonymous почему 8080? я таких сайдингов видел много, в итоге или платно или ¾ здохло
#L0KJKY/1X4 / @nebeda --> #L0KJKY/UBK / 3227 дней назад
@nebeda случайно потыкал - вроде большинство работает авито небось даже прозрачные пускает
#L0KJKY/1LI / @anonymous --> #L0KJKY/1X4 / 3227 дней назад
@l29ah Если у тебя дебиан, то да.
#L0KJKY/7KD / @windowsadmin --> #L0KJKY/T5D / 3226 дней назад
@l29ah Доброе. Ты мне писал вообще?
#L0KJKY/QKX / @komar --> #L0KJKY/FLS / 3226 дней назад
@minoru Хост я могу и менять по десять раз на день в зависимости от настроения.
#L0KJKY/KR0 / @komar --> #L0KJKY/UZX / 3226 дней назад
@nebeda все малолетние линуксоиды выше по треду рассказывают про неуемную жручесть сквида
#L0KJKY/B6R / @komar --> #L0KJKY/97X / 3226 дней назад

Бля, чувак, каждый раз, когда играю на своей ESP LTD F-50, вспоминаю, что нашёл объявление через avito2rss. Топ спасибо, пойду подниму скрейпер.

#L0KJKY/S61 / @like-all / 3226 дней назад
@like-all Скрейпер?
#L0KJKY/3NU / @komar --> #L0KJKY/S61 / 3226 дней назад

@komar Ну или что там у тебя в /0

#L0KJKY/RN4 / @like-all --> #L0KJKY/3NU / 3226 дней назад

@like-all Я ещё не проснулся толком и плохо соображаю.

#L0KJKY/GNN / @like-all --> #L0KJKY/RN4 / 3226 дней назад
@like-all Прокси, прокси подыми. Рецепт в /0 не работает, поэтому почитай тред, там все починили.
#L0KJKY/BTL / @komar --> #L0KJKY/RN4 / 3226 дней назад
Я потерял, кто мне дал прокси на дебиании. Почему-то мое рубиговно отказывается с ним работать — уходит ждать чего-то, в то время как curl работает нормально.
#L0KJKY/SHK / @komar / 3226 дней назад
@komar РУБИ
#L0KJKY/5DB / @l29ah --> #L0KJKY/SHK / 3226 дней назад
@komar PYБN
#L0KJKY/OCO / @l29ah --> #L0KJKY/SHK / 3226 дней назад
@komar bY6N
#L0KJKY/JTP / @l29ah --> #L0KJKY/SHK / 3226 дней назад
@komar dY9И
#L0KJKY/8RG / @l29ah --> #L0KJKY/SHK / 3226 дней назад
@komar TypeError: String can't be coerced into Fixnum
#L0KJKY/K74 / @l29ah --> #L0KJKY/SHK / 3226 дней назад
Всем спасибо, теперь у меня 6 рабочих проксей, а время обновления меньше часа и падает. Починил график на странице со статистикой, теперь можно любоваться: http://avito2rss.bitcheese.net/feeds/ Дальше наращивать пул проксей пока нет смысла — мне надо поебаться в рубишные треды с троттлингом, а у меня восем нет спидов на это.
#L0KJKY/A49 / @komar / 3226 дней назад
@komar Надо накраудфандить комару спидов!
#L0KJKY/XB7 / @l29ah --> #L0KJKY/A49 / 3226 дней назад
@komar 83.149.99.86?
#L0KJKY/D01 / @windowsadmin --> #L0KJKY/SHK / 3226 дней назад
@windowsadmin Нет, твое забись работает. И я нашел, кто: Minoru.
#L0KJKY/SDY / @komar --> #L0KJKY/D01 / 3226 дней назад
@l29ah РУБИ РУБИ РУБИ ХУЮБИ Не работало потому, что mechanize коннектился по ipv6, а curl — по ipv4.
#L0KJKY/Q16 / @komar --> #L0KJKY/K74 / 3226 дней назад
@l29ah Да, хорошая идея.
#L0KJKY/09T / @komar --> #L0KJKY/XB7 / 3226 дней назад
@komar У тебя ipv6 сломан настолько, что софт думает что он есть, а на деле он нихуя не работает? Ппц, выеби там кого-нибудь.
#L0KJKY/OWS / @l29ah --> #L0KJKY/Q16 / 3226 дней назад
@l29ah У сервера с проксей сломан ipv6.
#L0KJKY/4AP / @komar --> #L0KJKY/OWS / 3226 дней назад
@komar А чё ты ему не хост кормишь?
#L0KJKY/BFE / @l29ah --> #L0KJKY/4AP / 3226 дней назад
@l29ah Не знаю. Почему я не кормлю хост?
#L0KJKY/2DT / @komar --> #L0KJKY/BFE / 3226 дней назад
@komar ЯННП где у тебя проблема с ipv6, между авитой и проксёй или проксёй и avito2rss?
#L0KJKY/U1Z / @l29ah --> #L0KJKY/2DT / 3226 дней назад
@l29ah Второе.
#L0KJKY/9O6 / @komar --> #L0KJKY/U1Z / 3226 дней назад
@komar То есть долбоёб тебе дал хостнейм, отдающий AAAA, но сервер там не обитает?
#L0KJKY/SHX / @l29ah --> #L0KJKY/9O6 / 3226 дней назад
@l29ah Я не знаю, что такое АААА.
#L0KJKY/C18 / @komar --> #L0KJKY/SHX / 3226 дней назад
@komar вот сейчас смешно было
#L0KJKY/21H / @nebeda --> #L0KJKY/C18 / 3226 дней назад
@nebeda АААА жрет память?
#L0KJKY/C1E / @komar --> #L0KJKY/21H / 3226 дней назад
@komar запоминать их не очень просто, да
#L0KJKY/UP9 / @nebeda --> #L0KJKY/C1E / 3226 дней назад
@nebeda Ты съебешь из этого треда, или тебе особое приглашение надо?
#L0KJKY/GGN / @komar --> #L0KJKY/UP9 / 3226 дней назад
@komar ты заткнёшься со своей хуетой уже?
#L0KJKY/D5Z / @nebeda --> #L0KJKY/GGN / 3226 дней назад
@nebeda Извини, нет.
#L0KJKY/HNG / @komar --> #L0KJKY/D5Z / 3226 дней назад
@nebeda Просто же: ответ на A - 32 бита, а на AAAA вчетверо длиннее.
#L0KJKY/4X0 / @l29ah --> #L0KJKY/UP9 / 3226 дней назад
ipv6 ready BnW для ведрофона BnW на Реформале Викивач Котятки

Цоперайт © 2010-2016 @stiletto.