Re: Nokogiri + 70Mb XML + 512RAM on Server

http://nokogiri.org/Nokogiri/XML/Reader.html проще

еще можно делать так, чидать весь xml reader-ом а целевые узлы
переводить в dom-дерево

reader.each do |node|
if node.name == 'forecast' && node.node_type ==
Nokogiri::XML::Reader::TYPE_ELEMENT
yield Nokogiri::XML(node.outer_xml)
end
end

On 21 июл, 11:49, "nemi...@gmail.com" <nemi...@gmail.com> wrote:
> Приветствую!
>
> Классически при работе с XML есть 2 пути: dom и sax
>
> Первый вариант подразумевает, что весь файл будет обработан и будет
> построено "дерево" узлов.
>
> Второй вариант - событийный, то есть xml выступает в качестве потока,
> который проходит через парсер - и при возникновении событий -
> срабатываются обработчики установленные разработчиком. Весь файл не
> подгружается в этом случае.
>
> Может быть вам попробовать переписать логику на SAX?
>
> http://nokogiri.org/Nokogiri/XML/SAX.html
>
> Есть ещё такой пример:http://www.pauldix.net/2009/01/sax-machine-sax-parsing-made-easy.html
> используетсяhttps://github.com/pauldix/sax-machine
> (так же на базе Nokogiri)
>
> С уважением,
> Илья
>
> On Jul 21, 1:31 pm, Igor Kasyanchuk <igorkasyanc...@gmail.com> wrote:
>
> > Подскажите как можно сделать следущее, есть файлик 70Мб (ХМЛ), и надо
> > его парсить и писать даные в базу (удаляя старые, ну или можно
> > обновлять, не знаю что быстрее будет). Но вот когда начинается процес
> > обработки xml сервер глохнет намертво, смотрю px aux а процес занял
> > 54% памяти, и сам сайт уже не отвечает. Скажите если ли другие решения
> > такой проблемы? Мне впринципе не так уж важно будет ли скрипт работать
> > 1 мин или 5 мин, главное что бы сайт работал. Спасибо
>
> >   doc = Nokogiri::XML(File.read("#{FILE_NAME}.xml"))
>
> >   doc.xpath("//forecast").each do |forecast|
> >     city_id = forecast.attributes["city"]
>
> >     next unless city_id
>
> >     city_id = city_id.to_s.to_i
>
> >     city = City.find_by_weather_city_id(city_id)
>
> >     next unless city
> >     city.weathers.except_today.delete_all
>
>

--
--
Данное сообщение отправлено Вам, так как Вы являетесь подписчиком группы "RubyOnRails to russian" на группах Google.
FAQ группы находится по адресу: http://ru.wikibooks.org/wiki/RubyFAQ

Для того, чтобы отправить сообщение в эту группу, пошлите его по адресу
ror2ru@googlegroups.com
Чтобы отменить подписку на эту группу, отправьте сообщение по адресу: ror2ru-unsubscribe@googlegroups.com
Дополнительные варианты находятся на странице группы http://groups.google.com/group/ror2ru?hl=ru