88730a29bca946183e87464ff33081593979760b
[gnus] / lisp / nnmh.el
1 ;;; nnmh.el --- mhspool access for Gnus
2
3 ;; Copyright (C) 1995, 1996, 1997, 1998, 1999, 2000, 2001, 2002, 2003,
4 ;;   2004, 2005, 2006, 2007, 2008 Free Software Foundation, Inc.
5
6 ;; Author: Lars Magne Ingebrigtsen <larsi@gnus.org>
7 ;;      Masanobu UMEDA <umerin@flab.flab.fujitsu.junet>
8 ;; Keywords: news, mail
9
10 ;; This file is part of GNU Emacs.
11
12 ;; GNU Emacs is free software; you can redistribute it and/or modify
13 ;; it under the terms of the GNU General Public License as published by
14 ;; the Free Software Foundation; either version 3, or (at your option)
15 ;; any later version.
16
17 ;; GNU Emacs is distributed in the hope that it will be useful,
18 ;; but WITHOUT ANY WARRANTY; without even the implied warranty of
19 ;; MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
20 ;; GNU General Public License for more details.
21
22 ;; You should have received a copy of the GNU General Public License
23 ;; along with GNU Emacs; see the file COPYING.  If not, write to the
24 ;; Free Software Foundation, Inc., 51 Franklin Street, Fifth Floor,
25 ;; Boston, MA 02110-1301, USA.
26
27 ;;; Commentary:
28
29 ;; Based on nnspool.el by Masanobu UMEDA <umerin@flab.flab.fujitsu.junet>.
30 ;; For an overview of what the interface functions do, please see the
31 ;; Gnus sources.
32
33 ;;; Code:
34
35 (require 'nnheader)
36 (require 'nnmail)
37 (require 'gnus-start)
38 (require 'nnoo)
39 (eval-when-compile (require 'cl))
40
41 (nnoo-declare nnmh)
42
43 (defvoo nnmh-directory message-directory
44   "Mail spool directory.")
45
46 (defvoo nnmh-get-new-mail t
47   "If non-nil, nnmh will check the incoming mail file and split the mail.")
48
49 (defvoo nnmh-prepare-save-mail-hook nil
50   "Hook run narrowed to an article before saving.")
51
52 (defvoo nnmh-be-safe nil
53   "If non-nil, nnmh will check all articles to make sure whether they are new or not.
54 Go through the .nnmh-articles file and compare with the actual
55 articles in this folder.  The articles that are \"new\" will be marked
56 as unread by Gnus.")
57
58 \f
59
60 (defconst nnmh-version "nnmh 1.0"
61   "nnmh version.")
62
63 (defvoo nnmh-current-directory nil
64   "Current news group directory.")
65
66 (defvoo nnmh-status-string "")
67 (defvoo nnmh-group-alist nil)
68 ;; Don't even think about setting this variable.  It does not exist.
69 ;; Forget about it.  Uh-huh.  Nope.  Nobody here.  It's only bound
70 ;; dynamically by certain functions in nndraft.
71 (defvar nnmh-allow-delete-final nil)
72
73 \f
74
75 ;;; Interface functions.
76
77 (nnoo-define-basics nnmh)
78
79 (deffoo nnmh-retrieve-headers (articles &optional newsgroup server fetch-old)
80   (save-excursion
81     (set-buffer nntp-server-buffer)
82     (erase-buffer)
83     (let* ((file nil)
84            (number (length articles))
85            (large (and (numberp nnmail-large-newsgroup)
86                        (> number nnmail-large-newsgroup)))
87            (count 0)
88            (file-name-coding-system nnmail-pathname-coding-system)
89            beg article)
90       (nnmh-possibly-change-directory newsgroup server)
91       ;; We don't support fetching by Message-ID.
92       (if (stringp (car articles))
93           'headers
94         (while articles
95           (when (and (file-exists-p
96                       (setq file (concat (file-name-as-directory
97                                           nnmh-current-directory)
98                                          (int-to-string
99                                           (setq article (pop articles))))))
100                      (not (file-directory-p file)))
101             (insert (format "221 %d Article retrieved.\n" article))
102             (setq beg (point))
103             (nnheader-insert-head file)
104             (goto-char beg)
105             (if (search-forward "\n\n" nil t)
106                 (forward-char -1)
107               (goto-char (point-max))
108               (insert "\n\n"))
109             (insert ".\n")
110             (delete-region (point) (point-max)))
111           (setq count (1+ count))
112
113           (and large
114                (zerop (% count 20))
115                (nnheader-message 5 "nnmh: Receiving headers... %d%%"
116                                  (/ (* count 100) number))))
117
118         (when large
119           (nnheader-message 5 "nnmh: Receiving headers...done"))
120
121         (nnheader-fold-continuation-lines)
122         'headers))))
123
124 (deffoo nnmh-open-server (server &optional defs)
125   (nnoo-change-server 'nnmh server defs)
126   (when (not (file-exists-p nnmh-directory))
127     (condition-case ()
128         (make-directory nnmh-directory t)
129       (error t)))
130   (cond
131    ((not (file-exists-p nnmh-directory))
132     (nnmh-close-server)
133     (nnheader-report 'nnmh "Couldn't create directory: %s" nnmh-directory))
134    ((not (file-directory-p (file-truename nnmh-directory)))
135     (nnmh-close-server)
136     (nnheader-report 'nnmh "Not a directory: %s" nnmh-directory))
137    (t
138     (nnheader-report 'nnmh "Opened server %s using directory %s"
139                      server nnmh-directory)
140     t)))
141
142 (deffoo nnmh-request-article (id &optional newsgroup server buffer)
143   (nnmh-possibly-change-directory newsgroup server)
144   (let ((file (if (stringp id)
145                   nil
146                 (concat nnmh-current-directory (int-to-string id))))
147         (file-name-coding-system nnmail-pathname-coding-system)
148         (nntp-server-buffer (or buffer nntp-server-buffer)))
149     (and (stringp file)
150          (file-exists-p file)
151          (not (file-directory-p file))
152          (save-excursion (nnmail-find-file file))
153          (string-to-number (file-name-nondirectory file)))))
154
155 (deffoo nnmh-request-group (group &optional server dont-check)
156   (nnheader-init-server-buffer)
157   (nnmh-possibly-change-directory group server)
158   (let ((pathname (nnmail-group-pathname group nnmh-directory))
159         (file-name-coding-system nnmail-pathname-coding-system)
160         dir)
161     (cond
162      ((not (file-directory-p pathname))
163       (nnheader-report
164        'nnmh "Can't select group (no such directory): %s" group))
165      (t
166       (setq nnmh-current-directory pathname)
167       (and nnmh-get-new-mail
168            nnmh-be-safe
169            (nnmh-update-gnus-unreads group))
170       (cond
171        (dont-check
172         (nnheader-report 'nnmh "Selected group %s" group)
173         t)
174        (t
175         ;; Re-scan the directory if it's on a foreign system.
176         (nnheader-re-read-dir pathname)
177         (setq dir
178               (sort
179                (mapcar 'string-to-number
180                        (directory-files pathname nil "^[0-9]+$" t))
181                '<))
182         (cond
183          (dir
184           (setq nnmh-group-alist
185                 (delq (assoc group nnmh-group-alist) nnmh-group-alist))
186           (push (list group (cons (car dir) (car (last dir))))
187                 nnmh-group-alist)
188           (nnheader-report 'nnmh "Selected group %s" group)
189           (nnheader-insert
190            "211 %d %d %d %s\n" (length dir) (car dir)
191            (car (last dir)) group))
192          (t
193           (nnheader-report 'nnmh "Empty group %s" group)
194           (nnheader-insert (format "211 0 1 0 %s\n" group))))))))))
195
196 (deffoo nnmh-request-scan (&optional group server)
197   (nnmail-get-new-mail 'nnmh nil nnmh-directory group))
198
199 (deffoo nnmh-request-list (&optional server dir)
200   (nnheader-insert "")
201   (nnmh-possibly-change-directory nil server)
202   (let ((file-name-coding-system nnmail-pathname-coding-system)
203         (nnmh-toplev
204          (file-truename (or dir (file-name-as-directory nnmh-directory)))))
205     (nnmh-request-list-1 nnmh-toplev))
206   (setq nnmh-group-alist (nnmail-get-active))
207   t)
208
209 (defvar nnmh-toplev)
210 (defun nnmh-request-list-1 (dir)
211   (setq dir (expand-file-name dir))
212   ;; Recurse down all directories.
213   (let ((dirs (and (file-readable-p dir)
214                    (nnheader-directory-files dir t nil t)))
215         rdir)
216     ;; Recurse down directories.
217     (while (setq rdir (pop dirs))
218       (when (and (file-directory-p rdir)
219                  (file-readable-p rdir)
220                  (not (equal (file-truename rdir)
221                              (file-truename dir))))
222         (nnmh-request-list-1 rdir))))
223   ;; For each directory, generate an active file line.
224   (unless (string= (expand-file-name nnmh-toplev) dir)
225     (let ((files (mapcar 'string-to-number
226                          (directory-files dir nil "^[0-9]+$" t))))
227       (when files
228         (save-excursion
229           (set-buffer nntp-server-buffer)
230           (goto-char (point-max))
231           (insert
232            (format
233             "%s %.0f %.0f y\n"
234             (progn
235               (string-match
236                (regexp-quote
237                 (file-truename (file-name-as-directory
238                                 (expand-file-name nnmh-toplev))))
239                dir)
240               (mm-string-as-multibyte
241                (mm-encode-coding-string
242                 (nnheader-replace-chars-in-string
243                  (substring dir (match-end 0))
244                  ?/ ?.)
245                 nnmail-pathname-coding-system)))
246             (apply 'max files)
247             (apply 'min files)))))))
248   t)
249
250 (deffoo nnmh-request-newgroups (date &optional server)
251   (nnmh-request-list server))
252
253 (deffoo nnmh-request-expire-articles (articles newsgroup
254                                                &optional server force)
255   (nnmh-possibly-change-directory newsgroup server)
256   (let ((is-old t)
257         (nnmail-expiry-target
258          (or (gnus-group-find-parameter newsgroup 'expiry-target t)
259              nnmail-expiry-target))
260         article rest mod-time)
261     (nnheader-init-server-buffer)
262
263     (while (and articles is-old)
264       (setq article (concat nnmh-current-directory
265                             (int-to-string (car articles))))
266       (when (setq mod-time (nth 5 (file-attributes article)))
267         (if (and (nnmh-deletable-article-p newsgroup (car articles))
268                  (setq is-old
269                        (nnmail-expired-article-p newsgroup mod-time force)))
270             (progn
271               ;; Allow a special target group. -- jcn
272               (unless (eq nnmail-expiry-target 'delete)
273                 (with-temp-buffer
274                   (nnmh-request-article (car articles)
275                                         newsgroup server (current-buffer))
276                   (nnmail-expiry-target-group
277                    nnmail-expiry-target newsgroup)))
278               (nnheader-message 5 "Deleting article %s in %s..."
279                                 article newsgroup)
280               (condition-case ()
281                   (funcall nnmail-delete-file-function article)
282                 (file-error
283                  (nnheader-message 1 "Couldn't delete article %s in %s"
284                                    article newsgroup)
285                  (push (car articles) rest))))
286           (push (car articles) rest)))
287       (setq articles (cdr articles)))
288     (nnheader-message 5 "")
289     (nconc rest articles)))
290
291 (deffoo nnmh-close-group (group &optional server)
292   t)
293
294 (deffoo nnmh-request-move-article (article group server accept-form 
295                                            &optional last move-is-internal)
296   (let ((buf (get-buffer-create " *nnmh move*"))
297         result)
298     (and
299      (nnmh-deletable-article-p group article)
300      (nnmh-request-article article group server)
301      (save-excursion
302        (set-buffer buf)
303        (erase-buffer)
304        (insert-buffer-substring nntp-server-buffer)
305        (setq result (eval accept-form))
306        (kill-buffer (current-buffer))
307        result)
308      (progn
309        (nnmh-possibly-change-directory group server)
310        (condition-case ()
311            (funcall nnmail-delete-file-function
312                     (concat nnmh-current-directory (int-to-string article)))
313          (file-error nil))))
314     result))
315
316 (deffoo nnmh-request-accept-article (group &optional server last noinsert)
317   (nnmh-possibly-change-directory group server)
318   (nnmail-check-syntax)
319   (when nnmail-cache-accepted-message-ids
320     (nnmail-cache-insert (nnmail-fetch-field "message-id") 
321                          group
322                          (nnmail-fetch-field "subject")
323                          (nnmail-fetch-field "from")))
324   (nnheader-init-server-buffer)
325   (prog1
326       (if (stringp group)
327           (if noinsert
328               (nnmh-active-number group)
329             (car (nnmh-save-mail
330                   (list (cons group (nnmh-active-number group)))
331                   noinsert)))
332         (let ((res (nnmail-article-group 'nnmh-active-number)))
333           (if (and (null res)
334                    (yes-or-no-p "Moved to `junk' group; delete article? "))
335               'junk
336             (car (nnmh-save-mail res noinsert)))))
337     (when (and last nnmail-cache-accepted-message-ids)
338       (nnmail-cache-close))))
339
340 (deffoo nnmh-request-replace-article (article group buffer)
341   (nnmh-possibly-change-directory group)
342   (save-excursion
343     (set-buffer buffer)
344     (nnmh-possibly-create-directory group)
345     (ignore-errors
346       (nnmail-write-region
347        (point-min) (point-max)
348        (concat nnmh-current-directory (int-to-string article))
349        nil (if (nnheader-be-verbose 5) nil 'nomesg))
350       t)))
351
352 (deffoo nnmh-request-create-group (group &optional server args)
353   (nnheader-init-server-buffer)
354   (unless (assoc group nnmh-group-alist)
355     (let (active)
356       (push (list group (setq active (cons 1 0)))
357             nnmh-group-alist)
358       (nnmh-possibly-create-directory group)
359       (nnmh-possibly-change-directory group server)
360       (let ((articles (mapcar 'string-to-number
361                               (directory-files
362                                nnmh-current-directory nil "^[0-9]+$"))))
363         (when articles
364           (setcar active (apply 'min articles))
365           (setcdr active (apply 'max articles))))))
366   t)
367
368 (deffoo nnmh-request-delete-group (group &optional force server)
369   (nnmh-possibly-change-directory group server)
370   ;; Delete all articles in GROUP.
371   (if (not force)
372       ()                                ; Don't delete the articles.
373     (let ((articles (directory-files nnmh-current-directory t "^[0-9]+$")))
374       (while articles
375         (when (file-writable-p (car articles))
376           (nnheader-message 5 "Deleting article %s in %s..."
377                             (car articles) group)
378           (funcall nnmail-delete-file-function (car articles)))
379         (setq articles (cdr articles))))
380     ;; Try to delete the directory itself.
381     (ignore-errors
382       (delete-directory nnmh-current-directory)))
383   ;; Remove the group from all structures.
384   (setq nnmh-group-alist
385         (delq (assoc group nnmh-group-alist) nnmh-group-alist)
386         nnmh-current-directory nil)
387   t)
388
389 (deffoo nnmh-request-rename-group (group new-name &optional server)
390   (nnmh-possibly-change-directory group server)
391   (let ((new-dir (nnmail-group-pathname new-name nnmh-directory))
392         (old-dir (nnmail-group-pathname group nnmh-directory)))
393     (when (ignore-errors
394             (make-directory new-dir t)
395             t)
396       ;; We move the articles file by file instead of renaming
397       ;; the directory -- there may be subgroups in this group.
398       ;; One might be more clever, I guess.
399       (let ((files (nnheader-article-to-file-alist old-dir)))
400         (while files
401           (rename-file
402            (concat old-dir (cdar files))
403            (concat new-dir (cdar files)))
404           (pop files)))
405       (when (<= (length (directory-files old-dir)) 2)
406         (ignore-errors
407           (delete-directory old-dir)))
408       ;; That went ok, so we change the internal structures.
409       (let ((entry (assoc group nnmh-group-alist)))
410         (when entry
411           (setcar entry new-name))
412         (setq nnmh-current-directory nil)
413         t))))
414
415 (nnoo-define-skeleton nnmh)
416
417 \f
418 ;;; Internal functions.
419
420 (defun nnmh-possibly-change-directory (newsgroup &optional server)
421   (when (and server
422              (not (nnmh-server-opened server)))
423     (nnmh-open-server server))
424   (when newsgroup
425     (let ((pathname (nnmail-group-pathname newsgroup nnmh-directory))
426           (file-name-coding-system nnmail-pathname-coding-system))
427       (if (file-directory-p pathname)
428           (setq nnmh-current-directory pathname)
429         (nnheader-report 'nnmh "Not a directory: %s" nnmh-directory)))))
430
431 (defun nnmh-possibly-create-directory (group)
432   (let (dir dirs)
433     (setq dir (nnmail-group-pathname group nnmh-directory))
434     (while (not (file-directory-p dir))
435       (push dir dirs)
436       (setq dir (file-name-directory (directory-file-name dir))))
437     (while dirs
438       (when (make-directory (directory-file-name (car dirs)))
439         (error "Could not create directory %s" (car dirs)))
440       (nnheader-message 5 "Creating mail directory %s" (car dirs))
441       (setq dirs (cdr dirs)))))
442
443 (defun nnmh-save-mail (group-art &optional noinsert)
444   "Called narrowed to an article."
445   (unless noinsert
446     (nnmail-insert-lines)
447     (nnmail-insert-xref group-art))
448   (run-hooks 'nnmail-prepare-save-mail-hook)
449   (run-hooks 'nnmh-prepare-save-mail-hook)
450   (goto-char (point-min))
451   (while (looking-at "From ")
452     (replace-match "X-From-Line: ")
453     (forward-line 1))
454   ;; We save the article in all the newsgroups it belongs in.
455   (let ((ga group-art)
456         first)
457     (while ga
458       (nnmh-possibly-create-directory (caar ga))
459       (let ((file (concat (nnmail-group-pathname
460                            (caar ga) nnmh-directory)
461                           (int-to-string (cdar ga)))))
462         (if first
463             ;; It was already saved, so we just make a hard link.
464             (funcall nnmail-crosspost-link-function first file t)
465           ;; Save the article.
466           (nnmail-write-region (point-min) (point-max) file nil nil)
467           (setq first file)))
468       (setq ga (cdr ga))))
469   group-art)
470
471 (defun nnmh-active-number (group)
472   "Compute the next article number in GROUP."
473   (let ((active (cadr (assoc group nnmh-group-alist)))
474         (dir (nnmail-group-pathname group nnmh-directory))
475         (file-name-coding-system nnmail-pathname-coding-system)
476         file)
477     (unless active
478       ;; The group wasn't known to nnmh, so we just create an active
479       ;; entry for it.
480       (setq active (cons 1 0))
481       (push (list group active) nnmh-group-alist)
482       (unless (file-exists-p dir)
483         (gnus-make-directory dir))
484       ;; Find the highest number in the group.
485       (let ((files (sort
486                     (mapcar 'string-to-number
487                             (directory-files dir nil "^[0-9]+$"))
488                     '>)))
489         (when files
490           (setcdr active (car files)))))
491     (setcdr active (1+ (cdr active)))
492     (while (or
493             ;; See whether the file exists...
494             (file-exists-p
495              (setq file (concat (nnmail-group-pathname group nnmh-directory)
496                                 (int-to-string (cdr active)))))
497             ;; ... or there is a buffer that will make that file exist
498             ;; in the future.
499             (get-file-buffer file))
500       ;; Skip past that file.
501       (setcdr active (1+ (cdr active))))
502     (cdr active)))
503
504 (defun nnmh-update-gnus-unreads (group)
505   ;; Go through the .nnmh-articles file and compare with the actual
506   ;; articles in this folder.  The articles that are "new" will be
507   ;; marked as unread by Gnus.
508   (let* ((dir nnmh-current-directory)
509          (files (sort (mapcar 'string-to-number
510                               (directory-files nnmh-current-directory
511                                                nil "^[0-9]+$" t))
512                       '<))
513          (nnmh-file (concat dir ".nnmh-articles"))
514          new articles)
515     ;; Load the .nnmh-articles file.
516     (when (file-exists-p nnmh-file)
517       (setq articles
518             (let (nnmh-newsgroup-articles)
519               (ignore-errors (load nnmh-file nil t t))
520               nnmh-newsgroup-articles)))
521     ;; Add all new articles to the `new' list.
522     (let ((art files))
523       (while art
524         (unless (assq (car art) articles)
525           (push (car art) new))
526         (setq art (cdr art))))
527     ;; Remove all deleted articles.
528     (let ((art articles))
529       (while art
530         (unless (memq (caar art) files)
531           (setq articles (delq (car art) articles)))
532         (setq art (cdr art))))
533     ;; Check whether the articles really are the ones that Gnus thinks
534     ;; they are by looking at the time-stamps.
535     (let ((arts articles)
536           art)
537       (while (setq art (pop arts))
538         (when (not (equal
539                     (nth 5 (file-attributes
540                             (concat dir (int-to-string (car art)))))
541                     (cdr art)))
542           (setq articles (delq art articles))
543           (push (car art) new))))
544     ;; Go through all the new articles and add them, and their
545     ;; time-stamps, to the list.
546     (setq articles
547           (nconc articles
548                  (mapcar
549                   (lambda (art)
550                     (cons art
551                           (nth 5 (file-attributes
552                                   (concat dir (int-to-string art))))))
553                   new)))
554     ;; Make Gnus mark all new articles as unread.
555     (when new
556       (gnus-make-articles-unread
557        (gnus-group-prefixed-name group (list 'nnmh ""))
558        (setq new (sort new '<))))
559     ;; Sort the article list with highest numbers first.
560     (setq articles (sort articles (lambda (art1 art2)
561                                     (> (car art1) (car art2)))))
562     ;; Finally write this list back to the .nnmh-articles file.
563     (with-temp-file nnmh-file
564       (insert ";; Gnus article active file for " group "\n\n")
565       (insert "(setq nnmh-newsgroup-articles '")
566       (gnus-prin1 articles)
567       (insert ")\n"))))
568
569 (defun nnmh-deletable-article-p (group article)
570   "Say whether ARTICLE in GROUP can be deleted."
571   (let ((path (concat nnmh-current-directory (int-to-string article))))
572     ;; Writable.
573     (and (file-writable-p path)
574          (or
575           ;; We can never delete the last article in the group.
576           (not (eq (cdr (nth 1 (assoc group nnmh-group-alist)))
577                    article))
578           ;; Well, we can.
579           nnmh-allow-delete-final))))
580
581 (provide 'nnmh)
582
583 ;;; arch-tag: 36c12a98-3bad-44b3-9953-628078ef0e04
584 ;;; nnmh.el ends here