Top.Mail.Ru
Мастера DELPHI, Delphi programming community Титульная страница Поиск, карта сайта Написать письмо 
| Новости | Поиск | FAQ | Статьи | Книги | Новости VCL |
| Форумы ЧАТ | Орешник | KOL и MCK |
Форумы -» Основная («Начинающим»)/ Базы / WinAPI / Компоненты / Сети / Media / Игры / Corba и COM / KOL / FreePascal / .Net / Прочее / RSDN.ORG

« предыдущая ветвь | форум | следующая ветвь »

Поиск файлов определенного типа по сайту


simplenick ©   (2006-11-03 14:00:00) 

Господа, подскажите как организовать поиск файлов определенного  типа (в данном случае RSS ленты) в пределах заданного сайта. Например, задаем сайт (заглавную страницу), на выходе получаем набор файлов с расширением .rss (.xml). Кроме того, ссылка на нужный файл может быть не в виде http://server.com/file.rss, а в виде http://server.com/rss/т.е. файл генерируется сервером каждый раз при обращении.


DiamondShark   (2006-11-04 22:16:00) [1]

да многое чего может быть.
но лучше исходить из презумпции разумности разработчика ;)

трудно вообразить себе причины, по которым потребовалось бы динамически генерировать ссылки на RSS-ленты


simplenick   (2006-11-03 15:19:00) [2]

Опять же могут быть динамические ссылки, вычисляемые в скриптах... Это наверное никак уже не обработать.


DiamondShark   (2006-11-03 15:14:00) [3]

да, хтмл придётся все.
но хтмл без всей начинки -- картинок, объектов, и т.п. -- не такой уж страшный чёрт
;)


simplenick   (2006-11-03 14:49:00) [4]

Так ведь чтоб получить список ссылок для проверки их хидеров, надо пропарсить все html.


DiamondShark   (2006-11-03 14:35:00) [5]

никакого ужоса.
для того, чтобы определить содержание контента, не надо выкачивать целиком.
в подавляющем большинстве ссылок достаточно будет хттп-хедеров. для других -- начального кусочка контента.
то, что контент не является XMLем определяется буквально по первым байтам.


simplenick   (2006-11-03 14:21:00) [6]

Спасибо, правда трафику потратится - ужас...


DiamondShark   (2006-11-03 14:19:00) [7]

разбирай страничку, ищи ссылки.
грузи по ссылкам. смотри, что загрузилось, например, по Content-Type, или по самому содржимому.

ЗЫ
На http сервере нет файлов.


simplenick   (2006-11-03 14:11:00) [8]

Мне не известен "нужный файл", мне как раз надо просканировать сайт и найти все xml файлы для их последующей скачки и обработки.


Reindeer Moss Eater   (2006-11-03 14:02:00) [9]

xmldoc.SelectNodes('//needed_nodeName[@attributeName="нужный файл"]')


Наверх

Титульная страница Поиск, карта сайта Написать письмо