Предположим, на сайте-доноре нету рейт лимита. Как наиболее быстро их скачать? Если качать поочередно, то допустим 1 картинка в 1 секунду это 11 дней выкачки без перерыва. Если поставить в 10 потоков, то за сутки. Но все равно то как-то долго (картинок вообще и 10 млн может быть)
Качать планировал скриптом на Ноде. Отсюда и вопрос еще один, как распараллелить в 10 потоков? Ну т.е. тупо циклом пройтись не получится, он так сразу тыщу запросов видимо сделает за миллисекунды. Т.е. надо как-то оптимизировать это.
Нужно скачать много картинок, как правильно сделать
IT Новости
-
-
-
Як на iPhone. Android-смартфони отримають важливу функцію безпеки
17 апреля, 14:01 -
Samsung додасть Galaxy AI у ще вісім своїх пристроїв
17 апреля, 14:00 -
YouTube блокуватиме програми для перегляду відео без реклами
17 апреля, 14:00 -
Новий захищений месенджер: Lecksis виходить на український ринок
17 апреля, 14:00 -
-
Adobe хоче ввести штучний інтелект у свій відеоредактор Premiere Pro
16 апреля, 12:30 -
-
5 комментариев
Добавить комментарий