Как легко найти дубли в облачных хранилищах

К сожалению, во многих популярных сервисах для хранения файлов онлайн нет опции дедубликации данных. Что довольно странно, ведь и пользователю и компании выгодно избавиться от одинаковой информации.
Поэтому решать такие проблемы приходится с помощью сторонних сервисов и приложении. Как DeDuplicate — Cloud Cleaner, которое поможет найти и удалить дубликаты файлов в Google Drive, Dropbox, OneDrive, MEGA, Yandex.Disk.
Сразу после запуска приложения вам нужно будет выбрать облачное хранилище, с которым вы хотите работать. И, соответственно, подключиться к нему и предоставить все необходимые разрешения.

Я проверял работу DeDuplicate — Cloud Cleaner на Google Диске. После подключения можно выбрать просканировать какую-то конкретную папку или всё хранилище.

Затем отобразится список файлов-дублей с подробной информацией по ним. Можно самостоятельно выбрать те, которые нужно оставить. Или выбрать более новые/старые данные. Далее приложение удалит выбранные данные.
Из плюсов хочется отметить, что даже на больших объёмах данных поиск и анализ информации происходит быстро. Также разработчик на каждом шагу подробно и понятно объясняет последствия ваших действий, а ещё рассказывает зачем нужно выдавать то или иное разрешение.
Из минусов – реклама. DeDuplicate — Cloud Cleaner бесплатное приложение, а значить после поиска файлов придётся смотреть рекламу. Она хоть и не всратая, но ждать приходится довольно долго.
Как на яндекс диске удалить дубликаты фотографий
Будь в курсе последних новостей из мира гаджетов и технологий
iGuides для смартфонов Apple

В помощь фотографу: полезные возможности «Яндекс.Диска», о которых вы могли не знать

Александр Кузнецов — 15 октября 2019, 15:20

Облачные хранилища — самый удобный способ хранения фотоархивов. Они высвобождают нам место на жестком диске, при необходимости и даже без интернета — всегда могут быть под рукой, а объем ограничивается только материальными возможностями пользователя. И то не всегда. Разбираемся в полезных фичах для фотографий одного из самых популярных облаков в России — Яндекс.Диска. Для наглядности возьмём пример — отпускной архив.
Безлимитная загрузка
В Диске можно настроить автоматическую загрузку фотографий с телефона в облако. При включении такого режима сервис предоставляет безлимит на хранение фотографий. Для этого необходимо скачать приложение Яндекс.Диск и предоставить разрешение в настройках программы, после чего гигабайты селфи окажутся в облаке. Причем снимки загружаются без потери качества.
Когда это важно? Например, в отпуске, когда под рукой кроме смартфона ничего нет, а тот сообщает о том, что место кончилось. Выручает автоматическая загрузка: во-первых, для того, чтобы фотографии появились в облаке — совсем необязательно искать Wi-Fi — снимки загрузятся, когда будет доступ к сети. После того как они появились в приложении — можно спокойно освободить место на устройстве.
Умная фотогалерея
Благодаря компьютерному зрению Диск стал по-новому хранить и представлять снимки и видео: раскладывать их по папкам, находить и показывать самые красивые кадры — теперь не нужно тратить время на разбор фотографий.
Первые попадают в альбом «Красивые», а вторые — в альбом «Разобрать». Даже если человек только вернулся из отпуска и ещё не разбирал снимки, он сможет показать лучшие из них друзьям. Кроме того, Диск стал раскладывать фото, скриншоты и видео по разным альбомам. Так, теперь не придётся искать скриншот с важной информацией среди сотен снимков из поездки.
Загруженный архив очень удобно распределился по разным альбомам и разделился на фотографии «Красивые» и «Разобрать». Снимки моря, пляжа и городских улиц попали в альбом «Красивые», засвеченные фотографии или очень темные, а также снимки с меню из ресторанов попали в альбом «Разобрать».
Удобный поиск
Все фотографии, загруженные на Диск с телефонов и фотоаппаратов, выстраиваются в хронологическом порядке. В августе Яндекс обновил приложение для Android и добавил возможность быстрой прокрутки временных периодов, таким образом ускорив переход к нужному временному периоду с фотографиями. При помощи прокрутки можно выбрать год или месяц. Сейчас эта линейка появилась и в веб-версии.
Все фотографии, загруженные на Диск, автоматически выстроились в хронологическом порядке — с мая по октябрь.
Фотовоспоминания
Диск может напоминать о фотографиях из архива. Время от времени он составляет подборки снимков за тот или иной период — например, за прошлогодние майские выходные или за лето 2015 года.
При оценке фотографий в расчет берется множество параметров. Алгоритм обращает внимание на сюжет: так, у пейзажа или у группового портрета больше шансов попасть в подборку, чем у снимка документа. Учитывается качество фотографий — пересвеченные или, наоборот, слишком темные фото будут отсеяны. То же самое с резкостью: из нескольких снимков с похожим сюжетом при прочих равных алгоритм выберет тот, на котором изображение четче.
В подборку попадают снимки, которым алгоритм присвоил самые высокие оценки по совокупности параметров. Фото с наивысшим баллом становится обложкой подборки. При этом у вас есть возможность посмотреть и остальные снимки за этот период — внизу каждой подборки есть кнопка «Все фото».
Для тех, кто много фотографирует и профессионально развивается — это очень полезная функция, можно сравнить ваши свежие снимки со старыми, посмотреть насколько вырос ваш опыт фотографирования.
При загрузке летнего архива 2019, мы просмотрели альбом с более старыми фото — сервис отсортировал и показал подборку весенних фото 2019 и 2016.
Поиск по содержимому
Иногда требуется найти в архиве конкретное фото: снимки собаки, горный пейзаж, скан страхового полиса, картинку с пляжем. Для поиска фотографий Диск использует разработанную технологию компьютерного зрения. Алгоритмы сопоставляют текст запроса и сюжет снимков, хранящихся в вашем облаке, и находят соответствия. Например, если вам понадобилась ксерокопия паспорта, Диск отыщет нужное, даже если в названии файла нет никаких подсказок.
Добавив на Диск летний архив, мы быстро нашли фотографии с морем, замками, едой — не тратили время, чтобы найти ту самую фотографию.
Фоторедактор
В мобильной версии встроен бесплатный фоторедактор — набор инструментов и фильтров, которые позволяют исправлять фотографии прямо в Диске, будь то веб-версия или приложение для мобильных устройств. Исправить мелкие дефекты, наложить фильтры или сделать из фотографии мем можно сразу в облаке, а потом отправить его друзьям.
Для работы с фотографиями есть около двух десятков наборов разных инструментов. В некоторых из них имеется выбор готовых решений. Например, шаблоны для кадрирования в группе «Обрезка», а также шаблоны рамок и эффектов для обработки.
Для работы с деталями в редакторе можно увеличить фотографии, а проделанные манипуляции можно откатить назад по одной или все сразу. При сохранении результатов обработки фотографии создается ее копия, а сама фотография не изменяется.
Личный опыт. Отказался от iCloud в пользу Яндекс Диска
С момента появления фирменного облачного сервиса iCloud я был его пользователем. Со временем перешел на платный тариф, который в какой-то момент увеличился до 50 Гб. Этого мне хватало под все мои потребности: вся библиотека фотографий туда помещалась, и оставалось место под резервные копии iPad и iPhone. Даже когда своим основным смартфоном я сделал аппарат на Андроид, то не отказался от яблочного облака, а продолжал туда загружать изображения и видео через веб-версию сервиса.

Если iCloud вас всем устраивает, то не стоит искать ему альтернатив.
❗️ПОДПИСЫВАЙСЯ НА НАШ КАНАЛ В ЯНДЕКС.ДЗЕНЕ И ЧИТАЙ ЭКСКЛЮЗИВНЫЕ СТАТЬИ БЕСПЛАТНО
То есть вы понимаете, насколько я сблизился с iCloud и как мне было удобно именно это облако. Но весна заставила искать альтернативы. Из-за ухода из России Visa и MasterСard оплатить сервисы Apple стало несколько сложнее. А в дальнейшем перестала проходить оплата и с моего номера телефона, и номера моей жены. В такой ситуации пришлось выбирать, куда сохранить свои данные. И выбор пал на Яндекс Диск. Давайте посмотрим, получилось ли у Яндекса заменить для меня iCloud и с какими минусами я столкнулся при переходе.
Яндекс Диск — цена

Удобно, что подписка на Яндекс Диск списывается сразу за год.
Сразу оговорюсь, что если бы не возникло никаких проблем с оплатой облака Apple, то попыток куда-то перейти я бы не делал. Работа сервиса и глубина его интеграции в яблочную экосистему находится на каком-то запредельном уровне, и мне это нравится. Фотографии и видео без всяких проблем я загружал руками со своего Андроида по мере необходимости. А так как снимаю я достаточно редко, то и потребность такая возникала не часто. Поэтому о переходе стоит задуматься, только если вам нужна бесшовная синхронизация между разными платформами, возникла проблема с оплатой iCloud или не устраивают цены. В противном случае пользуйтесь фирменным облаком Apple и получайте удовольствие.
Первое, что приятно удивляет в Яндекс Диске — это цена и объем предоставляемого свободного места. Отдельно со всеми тарифами можно ознакомиться на этой странице. За 499 рублей за год! я получил:
- 100 Гб свободного пространства.
- Безлимит для фото и видео.
- Неограниченное скачивание с публичных ссылок.
- Возможность загрузки файлов от 1 Гб.
❗️ПОДПИСЫВАЙСЯ НА ТЕЛЕГРАМ-КАНАЛ СУНДУК АЛИБАБЫ. ТАМ КАЖДЫЙ ДЕНЬ ВЫХОДЯТ ПОДБОРКИ САМЫХ ЛУЧШИХ ТОВАРОВ С АЛИЭКСПРЕСС
При этом у меня уже было 10 Гб за регистрацию в Яндекс Диске, которую я осуществил давным давно. И дополнительно мне дали еще 10 Гб за то, что я являюсь подписчиком Яндекс Плюс. Итого у меня получилось 120 Гб и безлимит для фото и видео. Это отличное предложение. При этом в iCloud за 59 рублей в месяц я получал только 50 Гб под все свои нужды. Безусловно, мне хватало и этого объема, но ведь значительно приятнее осознавать, что у вас в облаке есть большой запас памяти.

Вот так 100 Гб легко превратились в 120 Гб.
Отдельно обращает на себя внимание безлимитное пространство под фотографии и видеозаписи. В таких ситуациях появляется вопрос о том, в каком качестве будут хранится такие медиафайлы. Почитав отзывы, многие писали о том, что при включении безлимита сервис немного их сжимает. Так как свободного пространства у меня было много, я решил безлимит отключить. Если же вам такая возможность нужна, то сделайте следующее:
- Откройте Яндекс Диск.
- Нажмите на изображение своего аккаунта в левом верхнем углу.
- Перейдите в настройки.
- Выберите раздел «Автозагрузка» и активируйте там переключатели «Загружать в безлимит» у фото и видео.
После импорта всей своей медиатеки у меня осталось свободно 92,4 Гб из 120. К сожалению, что бы я не делал, видео все равно сохраняется в разрешении не больше Full HD. Это можно считать очень существенным минусом.
Заметки — Яндекс Диск

Синхронизация заметок — одна из самых удобных возможностей в Яндекс Диске.
Другой момент, который порадовал, — это наличие в Яндекс Диске такого приложения, как «Заметки». С учетом того, что больше чем за десять лет использования iCloud у меня накопилось огромное количество заметок, и большинством из них я периодически пользуюсь, то раз уж я начал полный переход на другой сервис, то логично было бы перенести и их. К сожалению, перенос возможен только путем банального копировать-вставить.
Естественно, некоторые записи у меня заблокированы паролем и биометрией. Поставить пароль на конкретную заметку здесь, к сожалению, нельзя, но можно запаролить всё приложение полностью. Причем допускается код-пароль отличный от системного, и отказ от использования биометрии. То есть если кто-то знает ваш код для разблокировки смартфона или его данные добавлены в Face ID или Touch ID, то вы можете беспроблемно защититься от доступа в приложение даже этих людей.

Можно защитить приложение от посторонних глаз с помощью пароля.
Скорость загрузки данных в Яндекс Диск и скачивания их оттуда за без малого полгода использования не вызвала у меня никаких вопросов. К какой бы сети я не был подключен, будь то Wi-Fi или сотовый оператор, все было достаточно быстро и не доставляло боль. Для меня, конечно, одним из самых важных моментов стала кроссплатформенность этого решения. Приложение Яндекс Диск установлено у меня на iPad, iMac и Xiaomi. Все медиафайлы синхронизируются между устройствами без каких-либо проблем. Достаточно сделать фото на смартфон, и сразу же получится посмотреть его на планшете. Опыт, сравнимый с iCloud, но между Андроидом и iPadOS.
❗️ПОДПИШИСЬ НА НАШ ЧАТИК В ТЕЛЕГРАМЕ. ТАМ СОБРАЛИСЬ ТОЛЬКО ИЗБРАННЫЕ ЧИТАТЕЛИ
Если вы в данный момент находитесь в поисках альтернативы iCloud, то искренне советую присмотрется к облаку от Яндекса. С учетом того, что у него есть бесплатный объем, то можно даже его потестировать до исчерпания свободной памяти. Безусловно, это решение не такое удобное, как фирменный сервис Apple, как минимум из-за необходимости дополнительной программы.
Отдельно следует отметить, что для создания резервной копии вашего устройства придется все равно использовать iCloud, если вы предпочитаете делать это без проводов. Ну или как в старые добрые времена, через iTunes.
Чтобы вписаться в бесплатный план мне пришлось удалить из резервной копии iPad достаточно большое количество всякого мусора, но порядок в ней давно напрашивался. Эта копия тянется еще с iPad 2 2011 года. В общем, всем, кто ищет варианты, могу смело посоветовать Яндекс Диск. Не часто у Яндекса получаются хорошие сервисы.
Программа AllDup — поиск дубликатов файлов на компьютере
Сегодня в обзоре — необходимая в каждом ноутбуке и компьютере программа AllDup, осуществляющая поиск дубликатов файлов и их удаление (автоматически или вручную). Не занимая много места на жестком диске, она способна помочь навести порядок в папках и файлах, которые накапливаются на ваших дисках, SD-картах и USB-флешках — утилита не сделает этого за вас, но существенно сэкономит время, необходимое для непростого и, зачастую, не вдохновляющего пользователей процесса.
У меня в компьютере — вечный дефицит свободного места, большинство всех имеющихся перезаписываемых носителей информации заполнено на 80-90%, и это серьезная проблема для меня. Освободить дисковое пространство и упорядочить медиафайлы, копившиеся годами, мне помогла именно AllDUp — перепробовав полдюжины программ-сканеров, остановился на ней из-за предоставляемых ей возможностей (совпавших с моими потребностями), а также простого и дружелюбного интерфейса.
Откуда берутся дубликаты файлов
Появление дублей отдельных файлов может быть результатом активности некоторых программ. Но главным создателем хаоса на жестких дисках и флешках является все-таки сам пользователь. Нередко дубликаты важных для пользователя файлов создаются именно пользователем — как правило, это бэкапы и резервные копии медиафайлов, потеря которых нежелательна или недопустима. С одной стороны, это правильно и помогает предотвратить полное удаление (случайное или преднамеренное) важных файлов. С другой стороны, процесс создания и накопления копий редко бывает осознанным, что в итоге приводит к нехватке свободного места, переполнению дискового пространства.
Бороться с лишними дублями можно и нужно. Самый логичный способ — правильная структура каталогов (папок) и подкаталогов в компьютере, а также ее регулярное использование — при каждом копировании, перемещении, скачивании файлов. Но идеальных людей и условий не бывает, приходится работать с тем, что есть, а именно — иногда разгребать накопившиеся файловые свалки.
Удалять дубликаты файлов можно и вручную, но этот процесс может растянуться, без преувеличения, на годы. В качестве примера приведу собственный фотоархив, который я собираю с 2008 года — с тех пор, когда у меня появился первый цифровой фотоаппарат. Раньше с дисковым пространством было совсем туго, и волей-неволей я периодически проводил ревизию фото и видео на своем компьютере, сбрасывая упорядоченные по датам папки на DVD-диски — так происходило до 2011 года. С 2012 года мой фотоархив, если его можно так назвать, постепенно накапливался (фотографии сбрасывались туда, где было место) и бессистемно копировался (на всякий случай, чтобы не потерять). Покупались новые флешки и внешние жесткие диски. Порядка было все меньше, в итоге к настоящему времени, когда мне удалось собрать все медиафайлы воедино — со всех доступных носителей, общий объем их составил ни много ни мало 629 Гб, 1559 папок, 118237 файлов! Посмотрим, что может предложить в этом запущенном случае бесплатная программа поиска дубликатов файлов AllDup, и как пользоваться этим инструментом во благо.
Возможности AllDup
Официальный сайт AllDup и его зеркало предоставляют пользователю возможность скачать бесплатно на русском файл установки программы и portable-версию здесь и здесь . Официальный сайт англоязычный, а вот среди языков интерфейса программы русский присутствует.

Здесь же предоставлена информация о текущей версии утилиты и дате релиза, поддерживаемые операционные системы (от Windows XP до Windows 10) и список языков интерфейса. Мне приглянулась portable-версия программы, которую я и скачал себе.

Чтобы интерфейс AllDup отображался на русском, достаточно выбрать язык из выпадающего списка. Кнопка выбора языка находится в главном меню («Hello»). Меню достаточно простое и понятное, огромный плюс за это разработчикам в карму.
Перед тем как пользоваться AllDup, имеет смысл заглянуть в настройки программы и пробежаться по основным кнопкам меню. Признаться, в настройках я ничего не менял, использую как есть — с настройками «по умолчанию». Все работает «на ура».
Возможности утилиты: сканирование выбранных носителей (внутренних и внешних), нахождение дубликатов по заданным параметрам файлов (тип (расширение), размер, имя, содержимое, дата создания (изменения), атрибуты), поиск в шестнадцати типах архивов, поиск с использованием фильтров, настройка предпросмотра для десятков типов файлов, быстрая работа программы (можно выставить приоритет).
Как найти и удалить дубликаты файлов
После неоднократных попыток навести порядок в своих папках на компьютере вручную и последующего знакомства с AllDup, могу с уверенностью сказать, что поиск и удаление дубликатов с этой программой превращается в последовательность простых и понятных действий:
- Выбрать место, где мы будем искать дубли — жесткий диск компьютера (ноутбука) или любой внешний подключаемый носитель.
- Запустить процесс поиска, дождаться результатов сканирования — в зависимости от объема накопителя от нескольких минут до получаса. Программа работает очень быстро.
- Удалить найденные дубликаты в ручном режиме или разрешить AllDup сделать это автоматически, на свой страх и риск.
Для иллюстрации процесса поиска дубликатов на компьютере я сделал несколько скриншотов, которые приведу здесь.

Выбираем нужный носитель. Если его нет в списке, добавляем, нажав на «плюсик» в правой части окна программы. В качестве места поиска можно добавить любую папку на любом подключенном к компьютеру носителе. Здесь же определяемся с методом сравнения. Я использую верхнюю строку: «Искать дубли во всех исходных папках (в том числе в одной и той же исходной папке), т.к. произвожу поиск среди перемещенных на отдельный внешний диск папках и файлах. Опции параметров (внизу окна) не трогал, оставив те, что были выставлены.

Нажав на кнопку «Метод поиска» во втором ряду кнопок меню, ставим галочки напротив тех критериев, по которым программа будет искать дубли. Я выбрал только «Имя», так как производил поиск среди однотипных файлов фотографий. В большинстве же случаев, например, когда производится тотальная чистка системы от мусора, есть смысл выделять галочкой еще и «Размер файла». Выбрав диск/флешку/папку и критерии поиска, нажимаем кнопку «Пуск» в верхнем левом углу окна утилиты. Программа предупредит всплывающим окном диалога о том, что нужно быть осторожнее, указывая в качестве места поиска системные папки Windows (но это понятно и так, системные папки лучше не трогать во избежание краха системы из-за случайно удаленного файла).

Результат работы с папкой объемом более 600 Гб и содержащей полторы тысячи вложенных папок и более ста тысяч файлов показан на скриншоте выше. В отсутствии других запущенных на ноутбуке программ, AllDup справилась со сканированием за 5 минут. Количество найденных дубликатов и созданных групп говорит о том, что после удаления всех дубликатов в компьютере должно остаться 26 тысяч оригинальных фотографий — меньше четверти от исходного количества.

По завершении поиска программа открывает окно со списком дубликатов, сгруппированных по виртуальным папкам. По результатам сканирования вы можете обнаружить, что в папках медиафайлами присутствуют и файлы других типов (в моем случае таковыми оказались программы).

Удалить дубли можно в автоматическом режиме — кнопка «Операции с выбранными файлами» с красным крестиком в левом верхнем углу окна программы. Мне спокойнее, когда я вижу, что удаляется, поэтому выбираю ручной режим просмотра и выделения дублей — да, это гораздо дольше, но в этом случае у меня будет уверенность, что ничего лишнего не удалено. Сортировку результатов можно производить, щелкая на заголовок нужного столбца (имя файла, размер, количество дубликатов).
При работе с фотоархивом я придерживался следующей последовательности при работе со списком дублей: 1) Сортировка по размеру файла и удаление всего, что меньше полутора мегабайт (уже не фото); 2) Сортировка по количеству дублей и чистка папок с наибольшим количеством повторов; 3) Просмотр и чистка остальных папок из таблицы результатов.

То есть, сначала, пробегаемся по папкам, отмечаем все ненужное, нажимаем кнопку «Операции с выбранными файлами» в левом верхнем углу окна программы. В результате всплывает окно следующего вида:

Обратите внимание на строку опций «Не обрабатывать группы, где выбраны все файлы». Если есть необходимость удалять группы со всеми отмеченными как ненужные файлами, галочку напротив нужно убрать. В нормальном же случае, когда нам нужно оставить хотя бы один (оригинальный) экземпляр, галочку в чекбокс ставим! Здесь же я поставил галочки в правой части окна напротив пунктов: «Убрать файлы из результатов поиска», «Убрать группы только с одним файлом», «Удалить пустые папки после перемещения/удаления», «Отключить журнал действий (быстро)». Нужны ли вам эти настройки, решайте сами.

Собственно говоря, так и выглядит процесс упорядочивания хаоса на жестких дисках.
На сегодня AllDup — это лучший поиск дубликатов файлов в Windows — во всяком случае, из того, что мне попадалось. Если у вас есть на примете другая, не менее интересная и функциональная, программа (утилита) — бесплатная и на русском языке, напишите ее название в комментариях, буду признателен.
В заключение — еще один вариант неоднократно выкладываемой мной в блоге композиции Thunderstruck от AC/DC , на этот раз в исполнении самобытного финского коллектива Steve Seagulls. Если честно, я подвис минут на 30 на их ютуб-канале, слушая каверы известных хитов прошлого в исполнении этих ребят.
Другие полезные материалы на этом блоге:
Приложение «Почта России»: отслеживание посылок и прочие плюшки
Всем доброго времени суток!Сегодня хочу поделиться с вами небольшим, но весьма полезным лайфхаком, способным облегчить жизнь тем, кто .
Как восстановить файлы на флешке: программы, последовательность действий
Ситуации, когда неожиданно «исчезает» логический диск, раздел файловой системы отображается как неотформатированный, вдруг пропадают отдельные каталоги и файлы, .
USB-флешка защищена от записи: как снять защиту
Иногда USB-флешки перестают читаться. Наверное, это самый грустный момент для владельца устройства, на котором находятся важные данные. Иногда .