* gnus-registry.el (gnus-registry-split-fancy-with-parent): Don't split
[gnus] / lisp / mail-source.el
1 ;;; mail-source.el --- functions for fetching mail
2
3 ;; Copyright (C) 1999, 2000, 2001, 2002, 2003, 2004,
4 ;;   2005, 2006, 2007, 2008 Free Software Foundation, Inc.
5
6 ;; Author: Lars Magne Ingebrigtsen <larsi@gnus.org>
7 ;; Keywords: news, mail
8
9 ;; This file is part of GNU Emacs.
10
11 ;; GNU Emacs is free software; you can redistribute it and/or modify
12 ;; it under the terms of the GNU General Public License as published by
13 ;; the Free Software Foundation; either version 3, or (at your option)
14 ;; any later version.
15
16 ;; GNU Emacs is distributed in the hope that it will be useful,
17 ;; but WITHOUT ANY WARRANTY; without even the implied warranty of
18 ;; MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
19 ;; GNU General Public License for more details.
20
21 ;; You should have received a copy of the GNU General Public License
22 ;; along with GNU Emacs; see the file COPYING.  If not, write to the
23 ;; Free Software Foundation, Inc., 51 Franklin Street, Fifth Floor,
24 ;; Boston, MA 02110-1301, USA.
25
26 ;;; Commentary:
27
28 ;;; Code:
29
30 ;; For Emacs < 22.2.
31 (eval-and-compile
32   (unless (fboundp 'declare-function) (defmacro declare-function (&rest r))))
33
34 (require 'format-spec)
35 (eval-when-compile
36   (require 'cl)
37   (require 'imap))
38 (eval-and-compile
39   (autoload 'auth-source-user-or-password "auth-source")
40   (autoload 'pop3-movemail "pop3")
41   (autoload 'pop3-get-message-count "pop3")
42   (autoload 'nnheader-cancel-timer "nnheader"))
43 (require 'mm-util)
44 (require 'message) ;; for `message-directory'
45
46 (defvar display-time-mail-function)
47
48 (defgroup mail-source nil
49   "The mail-fetching library."
50   :version "21.1"
51   :group 'gnus)
52
53 ;; Define these at compile time to avoid dragging in imap always.
54 (defconst mail-source-imap-authenticators
55   (eval-when-compile
56     (mapcar (lambda (a)
57               (list 'const (car a)))
58      imap-authenticator-alist)))
59 (defconst mail-source-imap-streams
60   (eval-when-compile
61     (mapcar (lambda (a)
62               (list 'const (car a)))
63      imap-stream-alist)))
64
65 (defcustom mail-sources '((file))
66   "Where the mail backends will look for incoming mail.
67 This variable is a list of mail source specifiers.
68 See Info node `(gnus)Mail Source Specifiers'."
69   :group 'mail-source
70   :version "23.1" ;; No Gnus
71   :link '(custom-manual "(gnus)Mail Source Specifiers")
72   :type `(choice
73           (const :tag "None" nil)
74           (repeat :tag "List"
75            (choice :format "%[Value Menu%] %v"
76                    :value (file)
77                    (cons :tag "Group parameter `mail-source'"
78                          (const :format "" group))
79                    (cons :tag "Spool file"
80                          (const :format "" file)
81                          (checklist :tag "Options" :greedy t
82                                     (group :inline t
83                                            (const :format "" :value :path)
84                                            file)))
85                    (cons :tag "Several files in a directory"
86                          (const :format "" directory)
87                          (checklist :tag "Options" :greedy t
88                                     (group :inline t
89                                            (const :format "" :value :path)
90                                            (directory :tag "Path"))
91                                     (group :inline t
92                                            (const :format "" :value :suffix)
93                                            (string :tag "Suffix"))
94                                     (group :inline t
95                                            (const :format "" :value :predicate)
96                                            (function :tag "Predicate"))
97                                     (group :inline t
98                                            (const :format "" :value :prescript)
99                                            (choice :tag "Prescript"
100                                                    :value nil
101                                                    (string :format "%v")
102                                                    (function :format "%v")))
103                                     (group :inline t
104                                            (const :format "" :value :postscript)
105                                            (choice :tag "Postscript"
106                                                    :value nil
107                                                    (string :format "%v")
108                                                    (function :format "%v")))
109                                     (group :inline t
110                                            (const :format "" :value :plugged)
111                                            (boolean :tag "Plugged"))))
112                    (cons :tag "POP3 server"
113                          (const :format "" pop)
114                          (checklist :tag "Options" :greedy t
115                                     (group :inline t
116                                            (const :format "" :value :server)
117                                            (string :tag "Server"))
118                                     (group :inline t
119                                            (const :format "" :value :port)
120                                            (choice :tag "Port"
121                                                    :value "pop3"
122                                                    (integer :format "%v")
123                                                    (string :format "%v")))
124                                     (group :inline t
125                                            (const :format "" :value :user)
126                                            (string :tag "User"))
127                                     (group :inline t
128                                            (const :format "" :value :password)
129                                            (string :tag "Password"))
130                                     (group :inline t
131                                            (const :format "" :value :program)
132                                            (string :tag "Program"))
133                                     (group :inline t
134                                            (const :format "" :value :prescript)
135                                            (choice :tag "Prescript"
136                                                    :value nil
137                                                    (string :format "%v")
138                                                    (function :format "%v")
139                                                    (const :tag "None" nil)))
140                                     (group :inline t
141                                            (const :format "" :value :postscript)
142                                            (choice :tag "Postscript"
143                                                    :value nil
144                                                    (string :format "%v")
145                                                    (function :format "%v")
146                                                    (const :tag "None" nil)))
147                                     (group :inline t
148                                            (const :format "" :value :function)
149                                            (function :tag "Function"))
150                                     (group :inline t
151                                            (const :format ""
152                                                   :value :authentication)
153                                            (choice :tag "Authentication"
154                                                    :value apop
155                                                    (const password)
156                                                    (const apop)))
157                                     (group :inline t
158                                            (const :format "" :value :plugged)
159                                            (boolean :tag "Plugged"))
160                                     (group :inline t
161                                            (const :format "" :value :stream)
162                                            (choice :tag "Stream"
163                                                    :value nil
164                                                    (const :tag "Clear" nil)
165                                                    (const starttls)
166                                                    (const :tag "SSL/TLS" ssl)))))
167                    (cons :tag "Maildir (qmail, postfix...)"
168                          (const :format "" maildir)
169                          (checklist :tag "Options" :greedy t
170                                     (group :inline t
171                                            (const :format "" :value :path)
172                                            (directory :tag "Path"))
173                                     (group :inline t
174                                            (const :format "" :value :plugged)
175                                            (boolean :tag "Plugged"))))
176                    (cons :tag "IMAP server"
177                          (const :format "" imap)
178                          (checklist :tag "Options" :greedy t
179                                     (group :inline t
180                                            (const :format "" :value :server)
181                                            (string :tag "Server"))
182                                     (group :inline t
183                                            (const :format "" :value :port)
184                                            (choice :tag "Port"
185                                                    :value 143
186                                                    integer string))
187                                     (group :inline t
188                                            (const :format "" :value :user)
189                                            (string :tag "User"))
190                                     (group :inline t
191                                            (const :format "" :value :password)
192                                            (string :tag "Password"))
193                                     (group :inline t
194                                            (const :format "" :value :stream)
195                                            (choice :tag "Stream"
196                                                    :value network
197                                                    ,@mail-source-imap-streams))
198                                     (group :inline t
199                                            (const :format "" :value :program)
200                                            (string :tag "Program"))
201                                     (group :inline t
202                                            (const :format ""
203                                                   :value :authenticator)
204                                            (choice :tag "Authenticator"
205                                                    :value login
206                                                    ,@mail-source-imap-authenticators))
207                                     (group :inline t
208                                            (const :format "" :value :mailbox)
209                                            (string :tag "Mailbox"
210                                                    :value "INBOX"))
211                                     (group :inline t
212                                            (const :format "" :value :predicate)
213                                            (string :tag "Predicate"
214                                                    :value "UNSEEN UNDELETED"))
215                                     (group :inline t
216                                            (const :format "" :value :fetchflag)
217                                            (string :tag "Fetchflag"
218                                                    :value  "\\Deleted"))
219                                     (group :inline t
220                                            (const :format ""
221                                                   :value :dontexpunge)
222                                            (boolean :tag "Dontexpunge"))
223                                     (group :inline t
224                                            (const :format "" :value :plugged)
225                                            (boolean :tag "Plugged"))))
226                    (cons :tag "Webmail server"
227                          (const :format "" webmail)
228                          (checklist :tag "Options" :greedy t
229                                     (group :inline t
230                                           (const :format "" :value :subtype)
231                                           ;; Should be generated from
232                                           ;; `webmail-type-definition', but we
233                                           ;; can't require webmail without W3.
234                                           (choice :tag "Subtype"
235                                                   :value hotmail
236                                                   (const hotmail)
237                                                   (const yahoo)
238                                                   (const netaddress)
239                                                   (const netscape)
240                                                   (const my-deja)))
241                                     (group :inline t
242                                            (const :format "" :value :user)
243                                            (string :tag "User"))
244                                     (group :inline t
245                                            (const :format "" :value :password)
246                                            (string :tag "Password"))
247                                     (group :inline t
248                                            (const :format ""
249                                                   :value :dontexpunge)
250                                            (boolean :tag "Dontexpunge"))
251                                     (group :inline t
252                                            (const :format "" :value :plugged)
253                                            (boolean :tag "Plugged"))))))))
254
255 (defcustom mail-source-ignore-errors nil
256   "*Ignore errors when querying mail sources.
257 If nil, the user will be prompted when an error occurs.  If non-nil,
258 the error will be ignored."
259   :version "22.1"
260   :group 'mail-source
261   :type 'boolean)
262
263 (defcustom mail-source-primary-source nil
264   "*Primary source for incoming mail.
265 If non-nil, this maildrop will be checked periodically for new mail."
266   :group 'mail-source
267   :type 'sexp)
268
269 (defcustom mail-source-flash t
270   "*If non-nil, flash periodically when mail is available."
271   :group 'mail-source
272   :type 'boolean)
273
274 (defcustom mail-source-crash-box "~/.emacs-mail-crash-box"
275   "File where mail will be stored while processing it."
276   :group 'mail-source
277   :type 'file)
278
279 (defcustom mail-source-directory message-directory
280   "Directory where incoming mail source files (if any) will be stored."
281   :group 'mail-source
282   :type 'directory)
283
284 (defcustom mail-source-default-file-modes 384
285   "Set the mode bits of all new mail files to this integer."
286   :group 'mail-source
287   :type 'integer)
288
289 (defcustom mail-source-delete-incoming
290   10 ;; development versions
291   ;; 2 ;; released versions
292   "If non-nil, delete incoming files after handling.
293 If t, delete immediately, if nil, never delete.  If a positive number, delete
294 files older than number of days.
295
296 Removing of old files happens in `mail-source-callback', i.e. no
297 old incoming files will be deleted unless you receive new mail.
298 You may also set this variable to nil and call
299 `mail-source-delete-old-incoming' interactively."
300   :group 'mail-source
301   :version "22.2" ;; No Gnus / Gnus 5.10.10 (default changed)
302   :type '(choice (const :tag "immediately" t)
303                  (const :tag "never" nil)
304                  (integer :tag "days")))
305
306 (defcustom mail-source-delete-old-incoming-confirm nil
307   "If non-nil, ask for confirmation before deleting old incoming files.
308 This variable only applies when `mail-source-delete-incoming' is a positive
309 number."
310   :version "22.2" ;; No Gnus / Gnus 5.10.10 (default changed)
311   :group 'mail-source
312   :type 'boolean)
313
314 (defcustom mail-source-incoming-file-prefix "Incoming"
315   "Prefix for file name for storing incoming mail"
316   :group 'mail-source
317   :type 'string)
318
319 (defcustom mail-source-report-new-mail-interval 5
320   "Interval in minutes between checks for new mail."
321   :group 'mail-source
322   :type 'number)
323
324 (defcustom mail-source-idle-time-delay 5
325   "Number of idle seconds to wait before checking for new mail."
326   :group 'mail-source
327   :type 'number)
328
329 (defcustom mail-source-movemail-program nil
330   "If non-nil, name of program for fetching new mail."
331   :version "22.1"
332   :group 'mail-source
333   :type '(choice (const nil) string))
334
335 ;;; Internal variables.
336
337 (defvar mail-source-string ""
338   "A dynamically bound string that says what the current mail source is.")
339
340 (defvar mail-source-new-mail-available nil
341   "Flag indicating when new mail is available.")
342
343 (eval-and-compile
344   (defvar mail-source-common-keyword-map
345     '((:plugged))
346     "Mapping from keywords to default values.
347 Common keywords should be listed here.")
348
349   (defvar mail-source-keyword-map
350     '((file
351        (:prescript)
352        (:prescript-delay)
353        (:postscript)
354        (:path (or (getenv "MAIL")
355                   (expand-file-name (user-login-name) rmail-spool-directory))))
356       (directory
357        (:prescript)
358        (:prescript-delay)
359        (:postscript)
360        (:path)
361        (:suffix ".spool")
362        (:predicate identity))
363       (pop
364        (:prescript)
365        (:prescript-delay)
366        (:postscript)
367        (:server (getenv "MAILHOST"))
368        (:port 110)
369        (:user (or (user-login-name) (getenv "LOGNAME") (getenv "USER")))
370        (:program)
371        (:function)
372        (:password)
373        (:authentication password)
374        (:stream nil))
375       (maildir
376        (:path (or (getenv "MAILDIR") "~/Maildir/"))
377        (:subdirs ("cur" "new"))
378        (:function))
379       (imap
380        (:server (getenv "MAILHOST"))
381        (:port)
382        (:stream)
383        (:program)
384        (:authentication)
385        (:user (or (user-login-name) (getenv "LOGNAME") (getenv "USER")))
386        (:password)
387        (:mailbox "INBOX")
388        (:predicate "UNSEEN UNDELETED")
389        (:fetchflag "\\Deleted")
390        (:prescript)
391        (:prescript-delay)
392        (:postscript)
393        (:dontexpunge))
394       (webmail
395        (:subtype hotmail)
396        (:user (or (user-login-name) (getenv "LOGNAME") (getenv "USER")))
397        (:password)
398        (:dontexpunge)
399        (:authentication password)))
400     "Mapping from keywords to default values.
401 All keywords that can be used must be listed here."))
402
403 (defvar mail-source-fetcher-alist
404   '((file mail-source-fetch-file)
405     (directory mail-source-fetch-directory)
406     (pop mail-source-fetch-pop)
407     (maildir mail-source-fetch-maildir)
408     (imap mail-source-fetch-imap)
409     (webmail mail-source-fetch-webmail))
410   "A mapping from source type to fetcher function.")
411
412 (defvar mail-source-password-cache nil)
413
414 (defvar mail-source-plugged t)
415
416 ;;; Functions
417
418 (eval-and-compile
419   (defun mail-source-strip-keyword (keyword)
420     "Strip the leading colon off the KEYWORD."
421     (intern (substring (symbol-name keyword) 1))))
422
423 ;; generate a list of variable names paired with nil values
424 ;; suitable for usage in a `let' form
425 (eval-and-compile
426   (defun mail-source-bind-1 (type)
427     (let* ((defaults (cdr (assq type mail-source-keyword-map)))
428            default bind)
429       (while (setq default (pop defaults))
430         (push (list (mail-source-strip-keyword (car default))
431                     nil)
432               bind))
433       bind)))
434
435 (defmacro mail-source-bind (type-source &rest body)
436   "Return a `let' form that binds all variables in source TYPE.
437 TYPE-SOURCE is a list where the first element is the TYPE, and
438 the second variable is the SOURCE.
439 At run time, the mail source specifier SOURCE will be inspected,
440 and the variables will be set according to it.  Variables not
441 specified will be given default values.
442
443 The user and password will be loaded from the auth-source values
444 if those are available.  They override the original user and
445 password in a second `let' form.
446
447 After this is done, BODY will be executed in the scope
448 of the second `let' form.
449
450 The variables bound and their default values are described by
451 the `mail-source-keyword-map' variable."
452   `(let* ,(mail-source-bind-1 (car type-source))
453      (mail-source-set-1 ,(cadr type-source))
454      (let ((user 
455             (or
456              (auth-source-user-or-password
457               "login"
458               ;; this is "host" in auth-sources
459               (if (boundp 'server) (symbol-value 'server) "")
460               ',(car type-source))
461              (when (boundp 'user) (symbol-value 'user))))
462            (password 
463             (or
464              (auth-source-user-or-password 
465               "password"
466               ;; this is "host" in auth-sources
467               (if (boundp 'server) (symbol-value 'server) "")
468               ',(car type-source))
469              (when (boundp 'user) (symbol-value 'user)))))
470        (unless user
471          (unintern 'user))
472        (unless password
473          (unintern 'password))
474        ,@body)))
475
476 (put 'mail-source-bind 'lisp-indent-function 1)
477 (put 'mail-source-bind 'edebug-form-spec '(sexp body))
478
479 (defun mail-source-set-1 (source)
480   (let* ((type (pop source))
481          (defaults (cdr (assq type mail-source-keyword-map)))
482          default value keyword)
483     (while (setq default (pop defaults))
484       ;; for each default :SYMBOL, set SYMBOL to the plist value for :SYMBOL
485       ;; using `mail-source-value' to evaluate the plist value
486       (set (mail-source-strip-keyword (setq keyword (car default)))
487            (if (setq value (plist-get source keyword))
488                (mail-source-value value)
489              (mail-source-value (cadr default)))))))
490
491 (eval-and-compile
492   (defun mail-source-bind-common-1 ()
493     (let* ((defaults mail-source-common-keyword-map)
494            default bind)
495       (while (setq default (pop defaults))
496         (push (list (mail-source-strip-keyword (car default))
497                     nil)
498               bind))
499       bind)))
500
501 (defun mail-source-set-common-1 (source)
502   (let* ((type (pop source))
503          (defaults mail-source-common-keyword-map)
504          (defaults-1 (cdr (assq type mail-source-keyword-map)))
505          default value keyword)
506     (while (setq default (pop defaults))
507       (set (mail-source-strip-keyword (setq keyword (car default)))
508            (if (setq value (plist-get source keyword))
509                (mail-source-value value)
510              (if (setq value (assq  keyword defaults-1))
511                  (mail-source-value (cadr value))
512                (mail-source-value (cadr default))))))))
513
514 (defmacro mail-source-bind-common (source &rest body)
515   "Return a `let' form that binds all common variables.
516 See `mail-source-bind'."
517   `(let ,(mail-source-bind-common-1)
518      (mail-source-set-common-1 source)
519      ,@body))
520
521 (put 'mail-source-bind-common 'lisp-indent-function 1)
522 (put 'mail-source-bind-common 'edebug-form-spec '(sexp body))
523
524 (defun mail-source-value (value)
525   "Return the value of VALUE."
526   (cond
527    ;; String
528    ((stringp value)
529     value)
530    ;; Function
531    ((and (listp value) (symbolp (car value)) (fboundp (car value)))
532     (eval value))
533    ;; Just return the value.
534    (t
535     value)))
536
537 (defun mail-source-fetch (source callback)
538   "Fetch mail from SOURCE and call CALLBACK zero or more times.
539 CALLBACK will be called with the name of the file where (some of)
540 the mail from SOURCE is put.
541 Return the number of files that were found."
542   (mail-source-bind-common source
543     (if (or mail-source-plugged plugged)
544         (save-excursion
545           (let ((function (cadr (assq (car source) mail-source-fetcher-alist)))
546                 (found 0))
547             (unless function
548               (error "%S is an invalid mail source specification" source))
549             ;; If there's anything in the crash box, we do it first.
550             (when (file-exists-p mail-source-crash-box)
551               (message "Processing mail from %s..." mail-source-crash-box)
552               (setq found (mail-source-callback
553                            callback mail-source-crash-box))
554               (mail-source-delete-crash-box))
555             (+ found
556                (if (or debug-on-quit debug-on-error)
557                    (funcall function source callback)
558                  (condition-case err
559                      (funcall function source callback)
560                    (error
561                     (if (and (not mail-source-ignore-errors)
562                              (not
563                               (yes-or-no-p
564                                (format "Mail source %s error (%s).  Continue? "
565                                        (if (memq ':password source)
566                                            (let ((s (copy-sequence source)))
567                                              (setcar (cdr (memq ':password s))
568                                                      "********")
569                                              s)
570                                          source)
571                                        (cadr err)))))
572                       (error "Cannot get new mail"))
573                     0)))))))))
574
575 (defun mail-source-delete-old-incoming (&optional age confirm)
576   "Remove incoming files older than AGE days.
577 If CONFIRM is non-nil, ask for confirmation before removing a file."
578   (interactive "P")
579   (let* ((high2days (/ 65536.0 60 60 24));; convert high bits to days
580          (low2days  (/ 1.0 65536.0))     ;; convert low bits to days
581          (diff (if (natnump age) age 30));; fallback, if no valid AGE given
582          currday files)
583     (setq files (directory-files
584                  mail-source-directory t
585                  (concat "\\`"
586                          (regexp-quote mail-source-incoming-file-prefix)))
587           currday (* (car (current-time)) high2days)
588           currday (+ currday (* low2days (nth 1 (current-time)))))
589     (while files
590       (let* ((ffile (car files))
591              (bfile (gnus-replace-in-string
592                      ffile "\\`.*/\\([^/]+\\)\\'" "\\1"))
593              (filetime (nth 5 (file-attributes ffile)))
594              (fileday (* (car filetime) high2days))
595              (fileday (+ fileday (* low2days (nth 1 filetime)))))
596         (setq files (cdr files))
597         (when (and (> (- currday fileday) diff)
598                    (if confirm
599                        (y-or-n-p
600                         (format "\
601 Delete old (> %s day(s)) incoming mail file `%s'? " diff bfile))
602                      (gnus-message 8 "\
603 Deleting old (> %s day(s)) incoming mail file `%s'." diff bfile)
604                      t))
605           (delete-file ffile))))))
606
607 (defun mail-source-callback (callback info)
608   "Call CALLBACK on the mail file.  Pass INFO on to CALLBACK."
609   (if (or (not (file-exists-p mail-source-crash-box))
610           (zerop (nth 7 (file-attributes mail-source-crash-box))))
611       (progn
612         (when (file-exists-p mail-source-crash-box)
613           (delete-file mail-source-crash-box))
614         0)
615     (funcall callback mail-source-crash-box info)))
616
617 (defun mail-source-delete-crash-box ()
618   (when (file-exists-p mail-source-crash-box)
619     ;; Delete or move the incoming mail out of the way.
620     (if (eq mail-source-delete-incoming t)
621         (delete-file mail-source-crash-box)
622       (let ((incoming
623              (mm-make-temp-file
624               (expand-file-name
625                mail-source-incoming-file-prefix
626                mail-source-directory))))
627         (unless (file-exists-p (file-name-directory incoming))
628           (make-directory (file-name-directory incoming) t))
629         (rename-file mail-source-crash-box incoming t)
630         ;; remove old incoming files?
631         (when (natnump mail-source-delete-incoming)
632           (mail-source-delete-old-incoming
633            mail-source-delete-incoming
634            mail-source-delete-old-incoming-confirm))))))
635
636 (defun mail-source-movemail (from to)
637   "Move FROM to TO using movemail."
638   (if (not (file-writable-p to))
639       (error "Can't write to crash box %s.  Not moving mail" to)
640     (let ((to (file-truename (expand-file-name to)))
641           errors result)
642       (setq to (file-truename to)
643             from (file-truename from))
644       ;; Set TO if have not already done so, and rename or copy
645       ;; the file FROM to TO if and as appropriate.
646       (cond
647        ((file-exists-p to)
648         ;; The crash box exists already.
649         t)
650        ((not (file-exists-p from))
651         ;; There is no inbox.
652         (setq to nil))
653        ((zerop (nth 7 (file-attributes from)))
654         ;; Empty file.
655         (setq to nil))
656        (t
657         ;; If getting from mail spool directory, use movemail to move
658         ;; rather than just renaming, so as to interlock with the
659         ;; mailer.
660         (unwind-protect
661             (save-excursion
662               (setq errors (generate-new-buffer " *mail source loss*"))
663               (let ((default-directory "/"))
664                 (setq result
665                       (apply
666                        'call-process
667                        (append
668                         (list
669                          (or mail-source-movemail-program
670                              (expand-file-name "movemail" exec-directory))
671                          nil errors nil from to)))))
672               (when (file-exists-p to)
673                 (set-file-modes to mail-source-default-file-modes))
674               (if (and (or (not (buffer-modified-p errors))
675                            (zerop (buffer-size errors)))
676                        (and (numberp result)
677                             (zerop result)))
678                   ;; No output => movemail won.
679                   t
680                 (set-buffer errors)
681                 ;; There may be a warning about older revisions.  We
682                 ;; ignore that.
683                 (goto-char (point-min))
684                 (if (search-forward "older revision" nil t)
685                     t
686                   ;; Probably a real error.
687                   (subst-char-in-region (point-min) (point-max) ?\n ?\  )
688                   (goto-char (point-max))
689                   (skip-chars-backward " \t")
690                   (delete-region (point) (point-max))
691                   (goto-char (point-min))
692                   (when (looking-at "movemail: ")
693                     (delete-region (point-min) (match-end 0)))
694                   ;; Result may be a signal description string.
695                   (unless (yes-or-no-p
696                            (format "movemail: %s (%s return).  Continue? "
697                                    (buffer-string) result))
698                     (error "%s" (buffer-string)))
699                   (setq to nil)))))))
700       (when (and errors
701                  (buffer-name errors))
702         (kill-buffer errors))
703       ;; Return whether we moved successfully or not.
704       to)))
705
706 (defun mail-source-movemail-and-remove (from to)
707   "Move FROM to TO using movemail, then remove FROM if empty."
708   (or (not (mail-source-movemail from to))
709       (not (zerop (nth 7 (file-attributes from))))
710       (delete-file from)))
711
712 (defun mail-source-fetch-with-program (program)
713   (eq 0 (call-process shell-file-name nil nil nil
714                       shell-command-switch program)))
715
716 (defun mail-source-run-script (script spec &optional delay)
717   (when script
718     (if (functionp script)
719         (funcall script)
720       (mail-source-call-script
721        (format-spec script spec))))
722   (when delay
723     (sleep-for delay)))
724
725 (defun mail-source-call-script (script)
726   (let ((background nil)
727         (stderr (get-buffer-create " *mail-source-stderr*"))
728         result)
729     (when (string-match "& *$" script)
730       (setq script (substring script 0 (match-beginning 0))
731             background 0))
732     (setq result
733           (call-process shell-file-name nil background nil
734                         shell-command-switch script))
735     (when (and result
736                (not (zerop result)))
737       (set-buffer stderr)
738       (message "Mail source error: %s" (buffer-string)))
739     (kill-buffer stderr)))
740
741 ;;;
742 ;;; Different fetchers
743 ;;;
744
745 (defun mail-source-fetch-file (source callback)
746   "Fetcher for single-file sources."
747   (mail-source-bind (file source)
748     (mail-source-run-script
749      prescript (format-spec-make ?t mail-source-crash-box)
750      prescript-delay)
751     (let ((mail-source-string (format "file:%s" path)))
752       (if (mail-source-movemail path mail-source-crash-box)
753           (prog1
754               (mail-source-callback callback path)
755             (mail-source-run-script
756              postscript (format-spec-make ?t mail-source-crash-box))
757             (mail-source-delete-crash-box))
758         0))))
759
760 (defun mail-source-fetch-directory (source callback)
761   "Fetcher for directory sources."
762   (mail-source-bind (directory source)
763     (mail-source-run-script
764      prescript (format-spec-make ?t path) prescript-delay)
765     (let ((found 0)
766           (mail-source-string (format "directory:%s" path)))
767       (dolist (file (directory-files
768                      path t (concat (regexp-quote suffix) "$")))
769         (when (and (file-regular-p file)
770                    (funcall predicate file)
771                    (mail-source-movemail file mail-source-crash-box))
772           (incf found (mail-source-callback callback file))
773           (mail-source-run-script postscript (format-spec-make ?t path))
774           (mail-source-delete-crash-box)))
775       found)))
776
777 (defun mail-source-fetch-pop (source callback)
778   "Fetcher for single-file sources."
779   (mail-source-bind (pop source)
780     ;; fixme: deal with stream type in format specs
781     (mail-source-run-script
782      prescript
783      (format-spec-make ?p password ?t mail-source-crash-box
784                        ?s server ?P port ?u user)
785      prescript-delay)
786     (let ((from (format "%s:%s:%s" server user port))
787           (mail-source-string (format "pop:%s@%s" user server))
788           result)
789       (when (eq authentication 'password)
790         (setq password
791               (or password
792                   (cdr (assoc from mail-source-password-cache))
793                   (read-passwd
794                    (format "Password for %s at %s: " user server)))))
795       (when server
796         (setenv "MAILHOST" server))
797       (setq result
798             (cond
799              (program
800               (mail-source-fetch-with-program
801                (format-spec
802                 program
803                 (format-spec-make ?p password ?t mail-source-crash-box
804                                   ?s server ?P port ?u user))))
805              (function
806               (funcall function mail-source-crash-box))
807              ;; The default is to use pop3.el.
808              (t
809               (require 'pop3)
810               (let ((pop3-password password)
811                     (pop3-maildrop user)
812                     (pop3-mailhost server)
813                     (pop3-port port)
814                     (pop3-authentication-scheme
815                      (if (eq authentication 'apop) 'apop 'pass))
816                     (pop3-stream-type stream))
817                 (if (or debug-on-quit debug-on-error)
818                     (save-excursion (pop3-movemail mail-source-crash-box))
819                   (condition-case err
820                       (save-excursion (pop3-movemail mail-source-crash-box))
821                     (error
822                      ;; We nix out the password in case the error
823                      ;; was because of a wrong password being given.
824                      (setq mail-source-password-cache
825                            (delq (assoc from mail-source-password-cache)
826                                  mail-source-password-cache))
827                      (signal (car err) (cdr err)))))))))
828       (if result
829           (progn
830             (when (eq authentication 'password)
831               (unless (assoc from mail-source-password-cache)
832                 (push (cons from password) mail-source-password-cache)))
833             (prog1
834                 (mail-source-callback callback server)
835               ;; Update display-time's mail flag, if relevant.
836               (if (equal source mail-source-primary-source)
837                   (setq mail-source-new-mail-available nil))
838               (mail-source-run-script
839                postscript
840                (format-spec-make ?p password ?t mail-source-crash-box
841                                  ?s server ?P port ?u user))
842               (mail-source-delete-crash-box)))
843         ;; We nix out the password in case the error
844         ;; was because of a wrong password being given.
845         (setq mail-source-password-cache
846               (delq (assoc from mail-source-password-cache)
847                     mail-source-password-cache))
848         0))))
849
850 (defun mail-source-check-pop (source)
851   "Check whether there is new mail."
852   (mail-source-bind (pop source)
853     (let ((from (format "%s:%s:%s" server user port))
854           (mail-source-string (format "pop:%s@%s" user server))
855           result)
856       (when (eq authentication 'password)
857         (setq password
858               (or password
859                   (cdr (assoc from mail-source-password-cache))
860                   (read-passwd
861                    (format "Password for %s at %s: " user server))))
862         (unless (assoc from mail-source-password-cache)
863           (push (cons from password) mail-source-password-cache)))
864       (when server
865         (setenv "MAILHOST" server))
866       (setq result
867             (cond
868              ;; No easy way to check whether mail is waiting for these.
869              (program)
870              (function)
871              ;; The default is to use pop3.el.
872              (t
873               (require 'pop3)
874               (let ((pop3-password password)
875                     (pop3-maildrop user)
876                     (pop3-mailhost server)
877                     (pop3-port port)
878                     (pop3-authentication-scheme
879                      (if (eq authentication 'apop) 'apop 'pass)))
880                 (if (or debug-on-quit debug-on-error)
881                     (save-excursion (pop3-get-message-count))
882                   (condition-case err
883                       (save-excursion (pop3-get-message-count))
884                     (error
885                      ;; We nix out the password in case the error
886                      ;; was because of a wrong password being given.
887                      (setq mail-source-password-cache
888                            (delq (assoc from mail-source-password-cache)
889                                  mail-source-password-cache))
890                      (signal (car err) (cdr err)))))))))
891       (if result
892           ;; Inform display-time that we have new mail.
893           (setq mail-source-new-mail-available (> result 0))
894         ;; We nix out the password in case the error
895         ;; was because of a wrong password being given.
896         (setq mail-source-password-cache
897               (delq (assoc from mail-source-password-cache)
898                     mail-source-password-cache)))
899       result)))
900
901 (defun mail-source-touch-pop ()
902   "Open and close a POP connection shortly.
903 POP server should be defined in `mail-source-primary-source' (which is
904 preferred) or `mail-sources'.  You may use it for the POP-before-SMTP
905 authentication.  To do that, you need to set the
906 `message-send-mail-function' variable as `message-smtpmail-send-it'
907 and put the following line in your ~/.gnus.el file:
908
909 \(add-hook 'message-send-mail-hook 'mail-source-touch-pop)
910
911 See the Gnus manual for details."
912   (let ((sources (if mail-source-primary-source
913                      (list mail-source-primary-source)
914                    mail-sources)))
915     (while sources
916       (if (eq 'pop (car (car sources)))
917           (mail-source-check-pop (car sources)))
918       (setq sources (cdr sources)))))
919
920 (defun mail-source-new-mail-p ()
921   "Handler for `display-time' to indicate when new mail is available."
922   ;; Flash (ie. ring the visible bell) if mail is available.
923   (if (and mail-source-flash mail-source-new-mail-available)
924       (let ((visible-bell t))
925         (ding)))
926   ;; Only report flag setting; flag is updated on a different schedule.
927   mail-source-new-mail-available)
928
929
930 (defvar mail-source-report-new-mail nil)
931 (defvar mail-source-report-new-mail-timer nil)
932 (defvar mail-source-report-new-mail-idle-timer nil)
933
934 (defun mail-source-start-idle-timer ()
935   ;; Start our idle timer if necessary, so we delay the check until the
936   ;; user isn't typing.
937   (unless mail-source-report-new-mail-idle-timer
938     (setq mail-source-report-new-mail-idle-timer
939           (run-with-idle-timer
940            mail-source-idle-time-delay
941            nil
942            (lambda ()
943              (unwind-protect
944                  (mail-source-check-pop mail-source-primary-source)
945                (setq mail-source-report-new-mail-idle-timer nil)))))
946     ;; Since idle timers created when Emacs is already in the idle
947     ;; state don't get activated until Emacs _next_ becomes idle, we
948     ;; need to force our timer to be considered active now.  We do
949     ;; this by being naughty and poking the timer internals directly
950     ;; (element 0 of the vector is nil if the timer is active).
951     (aset mail-source-report-new-mail-idle-timer 0 nil)))
952
953 (defun mail-source-report-new-mail (arg)
954   "Toggle whether to report when new mail is available.
955 This only works when `display-time' is enabled."
956   (interactive "P")
957   (if (not mail-source-primary-source)
958       (error "Need to set `mail-source-primary-source' to check for new mail"))
959   (let ((on (if (null arg)
960                 (not mail-source-report-new-mail)
961               (> (prefix-numeric-value arg) 0))))
962     (setq mail-source-report-new-mail on)
963     (and mail-source-report-new-mail-timer
964          (nnheader-cancel-timer mail-source-report-new-mail-timer))
965     (and mail-source-report-new-mail-idle-timer
966          (nnheader-cancel-timer mail-source-report-new-mail-idle-timer))
967     (setq mail-source-report-new-mail-timer nil)
968     (setq mail-source-report-new-mail-idle-timer nil)
969     (if on
970         (progn
971           (require 'time)
972           ;; display-time-mail-function is an Emacs 21 feature.
973           (setq display-time-mail-function #'mail-source-new-mail-p)
974           ;; Set up the main timer.
975           (setq mail-source-report-new-mail-timer
976                 (run-at-time
977                  (* 60 mail-source-report-new-mail-interval)
978                  (* 60 mail-source-report-new-mail-interval)
979                  #'mail-source-start-idle-timer))
980           ;; When you get new mail, clear "Mail" from the mode line.
981           (add-hook 'nnmail-post-get-new-mail-hook
982                     'display-time-event-handler)
983           (message "Mail check enabled"))
984       (setq display-time-mail-function nil)
985       (remove-hook 'nnmail-post-get-new-mail-hook
986                    'display-time-event-handler)
987       (message "Mail check disabled"))))
988
989 (defun mail-source-fetch-maildir (source callback)
990   "Fetcher for maildir sources."
991   (mail-source-bind (maildir source)
992     (let ((found 0)
993           mail-source-string)
994       (unless (string-match "/$" path)
995         (setq path (concat path "/")))
996       (dolist (subdir subdirs)
997         (when (file-directory-p (concat path subdir))
998           (setq mail-source-string (format "maildir:%s%s" path subdir))
999           (dolist (file (directory-files (concat path subdir) t))
1000             (when (and (not (file-directory-p file))
1001                        (not (if function
1002                                 (funcall function file mail-source-crash-box)
1003                               (let ((coding-system-for-write
1004                                      mm-text-coding-system)
1005                                     (coding-system-for-read
1006                                      mm-text-coding-system))
1007                                 (with-temp-file mail-source-crash-box
1008                                   (insert-file-contents file)
1009                                   (goto-char (point-min))
1010 ;;;                               ;; Unix mail format
1011 ;;;                               (unless (looking-at "\n*From ")
1012 ;;;                                 (insert "From maildir "
1013 ;;;                                         (current-time-string) "\n"))
1014 ;;;                               (while (re-search-forward "^From " nil t)
1015 ;;;                                 (replace-match ">From "))
1016 ;;;                               (goto-char (point-max))
1017 ;;;                               (insert "\n\n")
1018                                   ;; MMDF mail format
1019                                   (insert "\001\001\001\001\n"))
1020                                 (delete-file file)))))
1021               (incf found (mail-source-callback callback file))
1022               (mail-source-delete-crash-box)))))
1023       found)))
1024
1025 (eval-and-compile
1026   (autoload 'imap-open "imap")
1027   (autoload 'imap-authenticate "imap")
1028   (autoload 'imap-mailbox-select "imap")
1029   (autoload 'imap-mailbox-unselect "imap")
1030   (autoload 'imap-mailbox-close "imap")
1031   (autoload 'imap-search "imap")
1032   (autoload 'imap-fetch "imap")
1033   (autoload 'imap-close "imap")
1034   (autoload 'imap-error-text "imap")
1035   (autoload 'imap-message-flags-add "imap")
1036   (autoload 'imap-list-to-message-set "imap")
1037   (autoload 'imap-range-to-message-set "imap")
1038   (autoload 'nnheader-ms-strip-cr "nnheader"))
1039
1040 (autoload 'gnus-compress-sequence "gnus-range")
1041
1042 (defvar mail-source-imap-file-coding-system 'binary
1043   "Coding system for the crashbox made by `mail-source-fetch-imap'.")
1044
1045 ;; Autoloads will bring in imap before this is called.
1046 (declare-function imap-capability "imap" (&optional identifier buffer))
1047
1048 (defun mail-source-fetch-imap (source callback)
1049   "Fetcher for imap sources."
1050   (mail-source-bind (imap source)
1051     (mail-source-run-script
1052      prescript (format-spec-make ?p password ?t mail-source-crash-box
1053                                  ?s server ?P port ?u user)
1054      prescript-delay)
1055     (let ((from (format "%s:%s:%s" server user port))
1056           (found 0)
1057           (buf (generate-new-buffer " *imap source*"))
1058           (mail-source-string (format "imap:%s:%s" server mailbox))
1059           (imap-shell-program (or (list program) imap-shell-program))
1060           remove)
1061       (if (and (imap-open server port stream authentication buf)
1062                (imap-authenticate
1063                 user (or (cdr (assoc from mail-source-password-cache))
1064                          password) buf)
1065                (imap-mailbox-select mailbox nil buf))
1066           (let ((coding-system-for-write mail-source-imap-file-coding-system)
1067                 str)
1068             (with-temp-file mail-source-crash-box
1069               ;; Avoid converting 8-bit chars from inserted strings to
1070               ;; multibyte.
1071               (mm-disable-multibyte)
1072               ;; remember password
1073               (with-current-buffer buf
1074                 (when (and imap-password
1075                            (not (assoc from mail-source-password-cache)))
1076                   (push (cons from imap-password) mail-source-password-cache)))
1077               ;; if predicate is nil, use all uids
1078               (dolist (uid (imap-search (or predicate "1:*") buf))
1079                 (when (setq str
1080                             (if (imap-capability 'IMAP4rev1 buf)
1081                                 (caddar (imap-fetch uid "BODY.PEEK[]"
1082                                                     'BODYDETAIL nil buf))
1083                               (imap-fetch uid "RFC822.PEEK" 'RFC822 nil buf)))
1084                   (push uid remove)
1085                   (insert "From imap " (current-time-string) "\n")
1086                   (save-excursion
1087                     (insert str "\n\n"))
1088                   (while (let ((case-fold-search nil))
1089                            (re-search-forward "^From " nil t))
1090                     (replace-match ">From "))
1091                   (goto-char (point-max))))
1092               (nnheader-ms-strip-cr))
1093             (incf found (mail-source-callback callback server))
1094             (mail-source-delete-crash-box)
1095             (when (and remove fetchflag)
1096               (setq remove (nreverse remove))
1097               (imap-message-flags-add
1098                (imap-range-to-message-set (gnus-compress-sequence remove))
1099                fetchflag nil buf))
1100             (if dontexpunge
1101                 (imap-mailbox-unselect buf)
1102               (imap-mailbox-close nil buf))
1103             (imap-close buf))
1104         (imap-close buf)
1105         ;; We nix out the password in case the error
1106         ;; was because of a wrong password being given.
1107         (setq mail-source-password-cache
1108               (delq (assoc from mail-source-password-cache)
1109                     mail-source-password-cache))
1110         (error "IMAP error: %s" (imap-error-text buf)))
1111       (kill-buffer buf)
1112       (mail-source-run-script
1113        postscript
1114        (format-spec-make ?p password ?t mail-source-crash-box
1115                          ?s server ?P port ?u user))
1116       found)))
1117
1118 (eval-and-compile
1119   (autoload 'webmail-fetch "webmail"))
1120
1121 (defun mail-source-fetch-webmail (source callback)
1122   "Fetch for webmail source."
1123   (mail-source-bind (webmail source)
1124     (let ((mail-source-string (format "webmail:%s:%s" subtype user))
1125           (webmail-newmail-only dontexpunge)
1126           (webmail-move-to-trash-can (not dontexpunge)))
1127       (when (eq authentication 'password)
1128         (setq password
1129               (or password
1130                   (cdr (assoc (format "webmail:%s:%s" subtype user)
1131                               mail-source-password-cache))
1132                   (read-passwd
1133                    (format "Password for %s at %s: " user subtype))))
1134         (when (and password
1135                    (not (assoc (format "webmail:%s:%s" subtype user)
1136                                mail-source-password-cache)))
1137           (push (cons (format "webmail:%s:%s" subtype user) password)
1138                 mail-source-password-cache)))
1139       (webmail-fetch mail-source-crash-box subtype user password)
1140       (mail-source-callback callback (symbol-name subtype))
1141       (mail-source-delete-crash-box))))
1142
1143 (provide 'mail-source)
1144
1145 ;; arch-tag: 72948025-1d17-4d6c-bb12-ef1aa2c490fd
1146 ;;; mail-source.el ends here