(gnus-group-jump-to-group-prompt): Allow an alist.
[gnus] / lisp / nnsoup.el
index fdd356b..009a1d3 100644 (file)
@@ -1,9 +1,10 @@
-;;; nnsoup.el --- SOUP packet reading access for Gnus
-;; Copyright (C) 1995 Free Software Foundation, Inc.
+;;; nnsoup.el --- SOUP access for Gnus
 
-;; Author: Per Abrahamsen <abraham@iesd.auc.dk>
-;;     Lars Magne Ingebrigtsen <larsi@ifi.uio.no>
-;;     Masanobu UMEDA <umerin@flab.flab.fujitsu.junet>
+;; Copyright (C) 1995, 1996, 1997, 1998, 1999, 2000, 2001, 2002, 2003
+;;     Free Software Foundation, Inc.
+
+;; Author: Lars Magne Ingebrigtsen <larsi@gnus.org>
+;;     Masanobu UMEDA <umerin@flab.flab.fujitsu.junet>
 ;; Keywords: news, mail
 
 ;; This file is part of GNU Emacs.
 ;; GNU General Public License for more details.
 
 ;; You should have received a copy of the GNU General Public License
-;; along with GNU Emacs; see the file COPYING.  If not, write to
-;; the Free Software Foundation, 675 Mass Ave, Cambridge, MA 02139, USA.
+;; along with GNU Emacs; see the file COPYING.  If not, write to the
+;; Free Software Foundation, Inc., 59 Temple Place - Suite 330,
+;; Boston, MA 02111-1307, USA.
 
 ;;; Commentary:
 
-;; For an overview of what the interface functions do, please see the
-;; Gnus sources.  
-
-;; For more information on SOUP, see the comments in the file 
-;; `gnus-soup.el'. 
-
 ;;; Code:
 
-(require 'gnus-soup)
 (require 'nnheader)
-(require 'rmail)
 (require 'nnmail)
+(require 'gnus-soup)
+(require 'gnus-msg)
+(require 'nnoo)
+(eval-when-compile (require 'cl))
+
+(nnoo-declare nnsoup)
+
+(defvoo nnsoup-directory "~/SOUP/"
+  "*SOUP packet directory.")
+
+(defvoo nnsoup-tmp-directory
+    (cond ((fboundp 'temp-directory) (temp-directory))
+         ((boundp 'temporary-file-directory) temporary-file-directory)
+         ("/tmp/"))
+  "*Where nnsoup will store temporary files.")
+
+(defvoo nnsoup-replies-directory (expand-file-name "replies/" nnsoup-directory)
+  "*Directory where outgoing packets will be composed.")
+
+(defvoo nnsoup-replies-format-type ?u  ;; u is USENET news format.
+  "*Format of the replies packages.")
+
+(defvoo nnsoup-replies-index-type ?n
+  "*Index type of the replies packages.")
 
-(defvar nnsoup-directory (expand-file-name "~/SOUP/")
-  "The name of the directory containing the unpacket SOUP packet.")
+(defvoo nnsoup-active-file (expand-file-name "active" nnsoup-directory)
+  "Active file.")
+
+(defvoo nnsoup-packer "tar cf - %s | gzip > $HOME/Soupin%d.tgz"
+  "Format string command for packing a SOUP packet.
+The SOUP files will be inserted where the %s is in the string.
+This string MUST contain both %s and %d.  The file number will be
+inserted where %d appears.")
+
+(defvoo nnsoup-unpacker "gunzip -c %s | tar xvf -"
+  "*Format string command for unpacking a SOUP packet.
+The SOUP packet file name will be inserted at the %s.")
+
+(defvoo nnsoup-packet-directory "~/"
+  "*Where nnsoup will look for incoming packets.")
+
+(defvoo nnsoup-packet-regexp "Soupout"
+  "*Regular expression matching SOUP packets in `nnsoup-packet-directory'.")
+
+(defvoo nnsoup-always-save t
+  "If non nil commit the reply buffer on each message send.
+This is necessary if using message mode outside Gnus with nnsoup as a
+backend for the messages.")
 
 \f
 
 (defconst nnsoup-version "nnsoup 0.0"
   "nnsoup version.")
 
-(defconst nnsoup-areas-file (concat nnsoup-directory  "AREAS"))
-(defconst nnsoup-list-file (concat nnsoup-directory "LIST"))
-(defconst nnsoup-gnus-file (concat nnsoup-directory "gnus.touched"))
+(defvoo nnsoup-status-string "")
+(defvoo nnsoup-group-alist nil)
+(defvoo nnsoup-current-prefix 0)
+(defvoo nnsoup-replies-list nil)
+(defvoo nnsoup-buffers nil)
+(defvoo nnsoup-current-group nil)
+(defvoo nnsoup-group-alist-touched nil)
+(defvoo nnsoup-article-alist nil)
+\f
 
-(defvar nnsoup-current-group nil)
-(defvar nnsoup-current-buffer nil)
-(defvar nnsoup-status-string "")
-(defvar nnsoup-group-alist nil)
-(defvar nnsoup-buffer-alist nil)
-(defconst nnsoup-areas-list nil)
+;;; Interface functions.
 
-;;; Interface functions
+(nnoo-define-basics nnsoup)
 
-(defun nnsoup-retrieve-headers (sequence &optional newsgroup server)
+(deffoo nnsoup-retrieve-headers (sequence &optional group server fetch-old)
+  (nnsoup-possibly-change-group group)
   (save-excursion
     (set-buffer nntp-server-buffer)
     (erase-buffer)
-    (let ((file nil)
-         (number (length sequence))
-         beg article art-string start stop)
-      (nnsoup-possibly-change-group newsgroup)
-      (while sequence
-       (setq article (car sequence))
-       (setq art-string (nnsoup-article-string article))
-       (set-buffer nnsoup-current-buffer)
-       (if (or (search-forward art-string nil t)
-               (progn (goto-char 1)
-                      (search-forward art-string nil t)))
+    (let ((areas (cddr (assoc nnsoup-current-group nnsoup-group-alist)))
+         (articles sequence)
+         (use-nov t)
+         useful-areas this-area-seq msg-buf)
+      (if (stringp (car sequence))
+         ;; We don't support fetching by Message-ID.
+         'headers
+       ;; We go through all the areas and find which files the
+       ;; articles in SEQUENCE come from.
+       (while (and areas sequence)
+         ;; Peel off areas that are below sequence.
+         (while (and areas (< (cdar (car areas)) (car sequence)))
+           (setq areas (cdr areas)))
+         (when areas
+           ;; This is a useful area.
+           (push (car areas) useful-areas)
+           (setq this-area-seq nil)
+           ;; We take note whether this MSG has a corresponding IDX
+           ;; for later use.
+           (when (or (= (gnus-soup-encoding-index
+                         (gnus-soup-area-encoding (nth 1 (car areas)))) ?n)
+                     (not (file-exists-p
+                           (nnsoup-file
+                            (gnus-soup-area-prefix (nth 1 (car areas)))))))
+             (setq use-nov nil))
+           ;; We assign the portion of `sequence' that is relevant to
+           ;; this MSG packet to this packet.
+           (while (and sequence (<= (car sequence) (cdar (car areas))))
+             (push (car sequence) this-area-seq)
+             (setq sequence (cdr sequence)))
+           (setcar useful-areas (cons (nreverse this-area-seq)
+                                      (car useful-areas)))))
+
+       ;; We now have a list of article numbers and corresponding
+       ;; areas.
+       (setq useful-areas (nreverse useful-areas))
+
+       ;; Two different approaches depending on whether all the MSG
+       ;; files have corresponding IDX files.  If they all do, we
+       ;; simply return the relevant IDX files and let Gnus sort out
+       ;; what lines are relevant.  If some of the IDX files are
+       ;; missing, we must return HEADs for all the articles.
+       (if use-nov
+           ;; We have IDX files for all areas.
            (progn
-             (setq start 
-                   (save-excursion
-                     (re-search-backward 
-                      (concat "^" rmail-unix-mail-delimiter) nil t)
-                     (point)))
-             (search-forward "\n\n" nil t)
-             (setq stop (1- (point)))
-             (set-buffer nntp-server-buffer)
-             (insert (format "221 %d Article retrieved.\n" article))
-             (setq beg (point))
-             (insert-buffer-substring nnsoup-current-buffer start stop)
-             (goto-char (point-max))
-             (insert ".\n")))
-       (setq sequence (cdr sequence)))
-
-      ;; Fold continuation lines.
-      (goto-char 1)
-      (while (re-search-forward "\\(\r?\n[ \t]+\\)+" nil t)
-       (replace-match " " t t))
-      'headers)))
-
-(defun nnsoup-open-server (host &optional service)
-  (setq nnsoup-status-string "")
-  (setq nnsoup-group-alist nil)
-  (nnheader-init-server-buffer))
-
-(defun nnsoup-close-server (&optional server)
+             (while useful-areas
+               (goto-char (point-max))
+               (let ((b (point))
+                     (number (car (nth 1 (car useful-areas))))
+                     (index-buffer (nnsoup-index-buffer
+                                    (gnus-soup-area-prefix
+                                     (nth 2 (car useful-areas))))))
+                 (when index-buffer
+                   (insert-buffer-substring index-buffer)
+                   (goto-char b)
+                   ;; We have to remove the index number entries and
+                   ;; insert article numbers instead.
+                   (while (looking-at "[0-9]+")
+                     (replace-match (int-to-string number) t t)
+                     (incf number)
+                     (forward-line 1))))
+               (setq useful-areas (cdr useful-areas)))
+             'nov)
+         ;; We insert HEADs.
+         (while useful-areas
+           (setq articles (caar useful-areas)
+                 useful-areas (cdr useful-areas))
+           (while articles
+             (when (setq msg-buf
+                         (nnsoup-narrow-to-article
+                          (car articles) (cdar useful-areas) 'head))
+               (goto-char (point-max))
+               (insert (format "221 %d Article retrieved.\n" (car articles)))
+               (insert-buffer-substring msg-buf)
+               (goto-char (point-max))
+               (insert ".\n"))
+             (setq articles (cdr articles))))
+
+         (nnheader-fold-continuation-lines)
+         'headers)))))
+
+(deffoo nnsoup-open-server (server &optional defs)
+  (nnoo-change-server 'nnsoup server defs)
+  (when (not (file-exists-p nnsoup-directory))
+    (condition-case ()
+       (make-directory nnsoup-directory t)
+      (error t)))
+  (cond
+   ((not (file-exists-p nnsoup-directory))
+    (nnsoup-close-server)
+    (nnheader-report 'nnsoup "Couldn't create directory: %s" nnsoup-directory))
+   ((not (file-directory-p (file-truename nnsoup-directory)))
+    (nnsoup-close-server)
+    (nnheader-report 'nnsoup "Not a directory: %s" nnsoup-directory))
+   (t
+    (nnsoup-read-active-file)
+    (nnheader-report 'nnsoup "Opened server %s using directory %s"
+                    server nnsoup-directory)
+    t)))
+
+(deffoo nnsoup-request-close ()
+  (nnsoup-write-active-file)
+  (nnsoup-write-replies)
+  (gnus-soup-save-areas)
+  ;; Kill all nnsoup buffers.
+  (let (buffer)
+    (while nnsoup-buffers
+      (setq buffer (cdr (pop nnsoup-buffers)))
+      (and buffer
+          (buffer-name buffer)
+          (kill-buffer buffer))))
+  (setq nnsoup-group-alist nil
+       nnsoup-group-alist-touched nil
+       nnsoup-current-group nil
+       nnsoup-replies-list nil)
+  (nnoo-close-server 'nnoo)
   t)
 
-(defun nnsoup-server-opened (&optional server)
-  (and nntp-server-buffer
-       (buffer-name nntp-server-buffer)))
-
-(defun nnsoup-status-message (&optional server)
-  nnsoup-status-string)
-
-(defun nnsoup-request-article (article &optional newsgroup server buffer)
+(deffoo nnsoup-request-article (id &optional newsgroup server buffer)
   (nnsoup-possibly-change-group newsgroup)
-  (if (stringp article)
-      nil
+  (let (buf)
     (save-excursion
-      (set-buffer nnsoup-current-buffer)
-      (goto-char 1)
-      (if (search-forward (nnsoup-article-string article) nil t)
-         (let (start stop)
-           (re-search-backward (concat "^" rmail-unix-mail-delimiter) nil t)
-           (setq start (point))
-           (forward-line 1)
-           (or (and (re-search-forward 
-                     (concat "^" rmail-unix-mail-delimiter) nil t)
-                    (forward-line -1))
-               (goto-char (point-max)))
-           (setq stop (point))
-           (let ((nntp-server-buffer (or buffer nntp-server-buffer)))
-             (set-buffer nntp-server-buffer)
-             (erase-buffer)
-             (insert-buffer-substring nnsoup-current-buffer start stop)
-             (goto-char (point-min))
-             (while (looking-at "From ")
-               (delete-char 5)
-               (insert "X-From-Line: ")
-               (forward-line 1))
-             t))))))
-
-(defun nnsoup-request-group (group &optional server dont-check)
-  (save-excursion
-    (nnsoup-possibly-change-group group)
-    (and (assoc group nnsoup-group-alist)
-        (save-excursion
-          (set-buffer nntp-server-buffer)
-          (erase-buffer)
-          (if dont-check
-              t
-            (nnsoup-request-list)
-            (setq nnsoup-group-alist (nnmail-get-active))
-            (let ((active (assoc group nnsoup-group-alist)))
-              (insert (format "211 %d %d %d %s\n" 
-                              (1+ (- (cdr (car (cdr active)))
-                                     (car (car (cdr active)))))
-                              (car (car (cdr active)))
-                              (cdr (car (cdr active)))
-                              (car active))))
-            t)))))
-
-(defun nnsoup-close-group (group &optional server)
+      (set-buffer (or buffer nntp-server-buffer))
+      (erase-buffer)
+      (when (and (not (stringp id))
+                (setq buf (nnsoup-narrow-to-article id)))
+       (insert-buffer-substring buf)
+       t))))
+
+(deffoo nnsoup-request-group (group &optional server dont-check)
+  (nnsoup-possibly-change-group group)
+  (if dont-check
+      t
+    (let ((active (cadr (assoc group nnsoup-group-alist))))
+      (if (not active)
+         (nnheader-report 'nnsoup "No such group: %s" group)
+       (nnheader-insert
+        "211 %d %d %d %s\n"
+        (max (1+ (- (cdr active) (car active))) 0)
+        (car active) (cdr active) group)))))
+
+(deffoo nnsoup-request-type (group &optional article)
+  (nnsoup-possibly-change-group group)
+  ;; Try to guess the type based on the first article in the group.
+  (when (not article)
+    (setq article
+         (cdar (car (cddr (assoc group nnsoup-group-alist))))))
+  (if (not article)
+      'unknown
+    (let ((kind (gnus-soup-encoding-kind
+                (gnus-soup-area-encoding
+                 (nth 1 (nnsoup-article-to-area
+                         article nnsoup-current-group))))))
+      (cond ((= kind ?m) 'mail)
+           ((= kind ?n) 'news)
+           (t 'unknown)))))
+
+(deffoo nnsoup-close-group (group &optional server)
+  ;; Kill all nnsoup buffers.
+  (let ((buffers nnsoup-buffers)
+       elem)
+    (while buffers
+      (when (equal (car (setq elem (pop buffers))) group)
+       (setq nnsoup-buffers (delq elem nnsoup-buffers))
+       (and (cdr elem) (buffer-name (cdr elem))
+            (kill-buffer (cdr elem))))))
   t)
 
-(defun nnsoup-request-list (&optional server)
-  (if server
-      (if (or (file-exists-p nnsoup-gnus-file)
-             (not (file-directory-p nnsoup-directory)))
-         ()
-       (write-region 1 1 nnsoup-gnus-file)
-       (setq nnsoup-areas-list nil
-             nnsoup-current-group nil
-             nnsoup-current-buffer nil
-             nnsoup-group-alist nil)
-       (let ((buffer (get-file-buffer nnsoup-areas-file))
-             (groups gnus-newsrc-assoc)
-             group)
-         (while groups
-           (setq group (car groups)
-                 groups (cdr groups))
-           (if (eq (car (gnus-group-method-name (car group))) 'nnsoup)
-               (progn 
-                 (setcar (nthcdr 2 group) nil)
-                 (setcar (nthcdr 3 group) nil))))
-         (gnus-make-hashtable-from-newsrc-alist)
-         (if buffer
-             (kill-buffer buffer))
-         (while nnsoup-buffer-alist 
-           (setq buffer (nth 1 (car nnsoup-buffer-alist))
-                 nnsoup-buffer-alist (cdr nnsoup-buffer-alist))
-           (if (buffer-name buffer)
-               (kill-buffer buffer))))))
-  (nnsoup-find-active))
-
-(defun nnsoup-request-newgroups (date &optional server)
-  (nnsoup-request-list server))
-
-(defun nnsoup-request-list-newsgroups (&optional server)
-  (nnmail-find-file nnsoup-newsgroups-file))
-
-(defun nnsoup-request-post (&optional server)
-  (mail-send-and-exit nil))
-
-(fset 'nnsoup-request-post-buffer 'nnmail-request-post-buffer)
-
-(defun nnsoup-request-expire-articles (articles newsgroup &optional server force)
-  (setq nnsoup-status-string "nnsoup: expire not possible")
+(deffoo nnsoup-request-list (&optional server)
+  (save-excursion
+    (set-buffer nntp-server-buffer)
+    (erase-buffer)
+    (unless nnsoup-group-alist
+      (nnsoup-read-active-file))
+    (let ((alist nnsoup-group-alist)
+         (standard-output (current-buffer))
+         entry)
+      (while (setq entry (pop alist))
+       (insert (car entry) " ")
+       (princ (cdadr entry))
+       (insert " ")
+       (princ (caadr entry))
+       (insert " y\n"))
+      t)))
+
+(deffoo nnsoup-request-scan (group &optional server)
+  (nnsoup-unpack-packets))
+
+(deffoo nnsoup-request-newgroups (date &optional server)
+  (nnsoup-request-list))
+
+(deffoo nnsoup-request-list-newsgroups (&optional server)
   nil)
 
-(defun nnsoup-request-move-article (article group server accept-form)
-  (setq nnsoup-status-string "nnsoup: move not possible")
-  nil)
+(deffoo nnsoup-request-post (&optional server)
+  (nnsoup-store-reply "news")
+  t)
 
-(defun nnsoup-request-accept-article (group)
-  (setq nnsoup-status-string "nnsoup: accept not possible")
-  nil)
+(deffoo nnsoup-request-mail (&optional server)
+  (nnsoup-store-reply "mail")
+  t)
+
+(deffoo nnsoup-request-expire-articles (articles group &optional server force)
+  (nnsoup-possibly-change-group group)
+  (let* ((total-infolist (assoc group nnsoup-group-alist))
+        (active (cadr total-infolist))
+        (infolist (cddr total-infolist))
+        info range-list mod-time prefix)
+    (while infolist
+      (setq info (pop infolist)
+           range-list (gnus-uncompress-range (car info))
+           prefix (gnus-soup-area-prefix (nth 1 info)))
+      (when;; All the articles in this file are marked for expiry.
+         (and (or (setq mod-time (nth 5 (file-attributes
+                                         (nnsoup-file prefix))))
+                  (setq mod-time (nth 5 (file-attributes
+                                         (nnsoup-file prefix t)))))
+              (gnus-sublist-p articles range-list)
+              ;; This file is old enough.
+              (nnmail-expired-article-p group mod-time force))
+       ;; Ok, we delete this file.
+       (when (ignore-errors
+               (nnheader-message
+                5 "Deleting %s in group %s..." (nnsoup-file prefix)
+                group)
+               (when (file-exists-p (nnsoup-file prefix))
+                 (delete-file (nnsoup-file prefix)))
+               (nnheader-message
+                5 "Deleting %s in group %s..." (nnsoup-file prefix t)
+                group)
+               (when (file-exists-p (nnsoup-file prefix t))
+                 (delete-file (nnsoup-file prefix t)))
+               t)
+         (setcdr (cdr total-infolist) (delq info (cddr total-infolist)))
+         (setq articles (gnus-sorted-difference articles range-list))))
+      (when (not mod-time)
+       (setcdr (cdr total-infolist) (delq info (cddr total-infolist)))))
+    (if (cddr total-infolist)
+       (setcar active (caaadr (cdr total-infolist)))
+      (setcar active (1+ (cdr active))))
+    (nnsoup-write-active-file t)
+    ;; Return the articles that weren't expired.
+    articles))
 
 \f
-;;; Internal functions.
-
-(defun nnsoup-possibly-change-group (group)
-  (or (file-exists-p nnsoup-directory)
-      (make-directory (directory-file-name nnsoup-directory)))
-  (if (not nnsoup-group-alist)
-      (progn
-       (nnsoup-request-list)
-       (setq nnsoup-group-alist (nnmail-get-active))))
-  (let (inf file)
-    (if (and (equal group nnsoup-current-group)
-            (buffer-name nnsoup-current-buffer))
-       ()
-      (if (setq inf (member group nnsoup-buffer-alist))
-         (setq nnsoup-current-buffer (nth 1 inf)))
-      (setq nnsoup-current-group group)
-      (if (not (buffer-name nnsoup-current-buffer))
-         (progn
-           (setq nnsoup-buffer-alist (delq inf nnsoup-buffer-alist))
-           (setq inf nil)))
-      (if inf
-         ()
-       (save-excursion
-         (setq file (nnsoup-group-file group))
-;;;;     (if (not (file-exists-p file))
-;;;;         (write-region 1 1 file t 'nomesg))
-         (set-buffer (nnsoup-read-folder file))
-         (setq nnsoup-buffer-alist (cons (list group (current-buffer))
-                                           nnsoup-buffer-alist))))))
-  (setq nnsoup-current-group group))
-
-(defun nnsoup-article-string (article)
-  (concat "\nX-Gnus-Article-Number: " (int-to-string article) " "))
-
-(defun nnsoup-read-folder (file)
-  (nnsoup-request-list)
-  (setq nnsoup-group-alist (nnmail-get-active))
+;;; Internal functions
+
+(defun nnsoup-possibly-change-group (group &optional force)
+  (when (and group
+            (not (equal nnsoup-current-group group)))
+    (setq nnsoup-article-alist nil)
+    (setq nnsoup-current-group group))
+  t)
+
+(defun nnsoup-read-active-file ()
+  (setq nnsoup-group-alist nil)
+  (when (file-exists-p nnsoup-active-file)
+    (ignore-errors
+      (load nnsoup-active-file t t t))
+    ;; Be backwards compatible.
+    (when (and nnsoup-group-alist
+              (not (atom (caadar nnsoup-group-alist))))
+      (let ((alist nnsoup-group-alist)
+           entry e min max)
+       (while (setq e (cdr (setq entry (pop alist))))
+         (setq min (caaar e))
+         (while (cdr e)
+           (setq e (cdr e)))
+         (setq max (cdar (car e)))
+         (setcdr entry (cons (cons min max) (cdr entry)))))
+      (setq nnsoup-group-alist-touched t))
+    nnsoup-group-alist))
+
+(defun nnsoup-write-active-file (&optional force)
+  (when (and nnsoup-group-alist
+            (or force
+                nnsoup-group-alist-touched))
+    (setq nnsoup-group-alist-touched nil)
+    (with-temp-file nnsoup-active-file
+      (gnus-prin1 `(setq nnsoup-group-alist ',nnsoup-group-alist))
+      (insert "\n")
+      (gnus-prin1 `(setq nnsoup-current-prefix ,nnsoup-current-prefix))
+      (insert "\n"))))
+
+(defun nnsoup-next-prefix ()
+  "Return the next free prefix."
+  (let (prefix)
+    (while (or (file-exists-p
+               (nnsoup-file (setq prefix (int-to-string
+                                          nnsoup-current-prefix))))
+              (file-exists-p (nnsoup-file prefix t)))
+      (incf nnsoup-current-prefix))
+    (incf nnsoup-current-prefix)
+    prefix))
+
+(defun nnsoup-file-name (dir file)
+  "Return the full name of FILE (in any case) in DIR."
+  (let* ((case-fold-search t)
+        (files (directory-files dir t))
+        (regexp (concat (regexp-quote file) "$")))
+    (car (delq nil
+              (mapcar
+               (lambda (file)
+                 (if (string-match regexp file)
+                     file
+                   nil))
+               files)))))
+
+(defun nnsoup-read-areas ()
+  (let ((areas-file (nnsoup-file-name nnsoup-tmp-directory "areas")))
+    (when areas-file
+      (save-excursion
+       (set-buffer nntp-server-buffer)
+       (let ((areas (gnus-soup-parse-areas areas-file))
+             entry number area lnum cur-prefix file)
+         ;; Go through all areas in the new AREAS file.
+         (while (setq area (pop areas))
+           ;; Change the name to the permanent name and move the files.
+           (setq cur-prefix (nnsoup-next-prefix))
+           (nnheader-message 5 "Incorporating file %s..." cur-prefix)
+           (when (file-exists-p
+                  (setq file
+                        (expand-file-name
+                         (concat (gnus-soup-area-prefix area) ".IDX")
+                         nnsoup-tmp-directory)))
+             (rename-file file (nnsoup-file cur-prefix)))
+           (when (file-exists-p
+                  (setq file (expand-file-name
+                              (concat (gnus-soup-area-prefix area) ".MSG")
+                              nnsoup-tmp-directory)))
+             (rename-file file (nnsoup-file cur-prefix t))
+             (gnus-soup-set-area-prefix area cur-prefix)
+             ;; Find the number of new articles in this area.
+             (setq number (nnsoup-number-of-articles area))
+             (if (not (setq entry (assoc (gnus-soup-area-name area)
+                                         nnsoup-group-alist)))
+                 ;; If this is a new area (group), we just add this info to
+                 ;; the group alist.
+                 (push (list (gnus-soup-area-name area)
+                             (cons 1 number)
+                             (list (cons 1 number) area))
+                       nnsoup-group-alist)
+               ;; There are already articles in this group, so we add this
+               ;; info to the end of the entry.
+               (nconc entry (list (list (cons (1+ (setq lnum (cdadr entry)))
+                                              (+ lnum number))
+                                        area)))
+               (setcdr (cadr entry) (+ lnum number))))))
+       (nnsoup-write-active-file t)
+       (delete-file areas-file)))))
+
+(defun nnsoup-number-of-articles (area)
   (save-excursion
-    (set-buffer
-     (setq nnsoup-current-buffer 
-          (find-file-noselect file)))
-    (buffer-disable-undo (current-buffer))
-    (let ((delim (concat "^" rmail-unix-mail-delimiter))
-         start end 
-         (number 1))
-      (goto-char (point-min))
-      (while (re-search-forward delim nil t)
-       (setq start (match-beginning 0))
-       (save-excursion 
-         (setq end (or (and (re-search-forward delim nil t)
-                            (match-beginning 0))
-                       (point-max))))
+    (cond
+     ;; If the number is in the area info, we just return it.
+     ((gnus-soup-area-number area)
+      (gnus-soup-area-number area))
+     ;; If there is an index file, we just count the lines.
+     ((/= (gnus-soup-encoding-index (gnus-soup-area-encoding area)) ?n)
+      (set-buffer (nnsoup-index-buffer (gnus-soup-area-prefix area)))
+      (count-lines (point-min) (point-max)))
+     ;; We do it the hard way - re-searching through the message
+     ;; buffer.
+     (t
+      (set-buffer (nnsoup-message-buffer (gnus-soup-area-prefix area)))
+      (unless (assoc (gnus-soup-area-prefix area) nnsoup-article-alist)
+       (nnsoup-dissect-buffer area))
+      (length (cdr (assoc (gnus-soup-area-prefix area)
+                         nnsoup-article-alist)))))))
+
+(defun nnsoup-dissect-buffer (area)
+  (let ((mbox-delim (concat "^" message-unix-mail-delimiter))
+       (format (gnus-soup-encoding-format (gnus-soup-area-encoding area)))
+       (i 0)
+       alist len)
+    (goto-char (point-min))
+    (cond
+     ;; rnews batch format
+     ((or (= format ?u)
+         (= format ?n)) ;; Gnus back compatibility.
+      (while (looking-at "^#! *rnews \\(+[0-9]+\\) *$")
+       (forward-line 1)
+       (push (list
+              (incf i) (point)
+              (progn
+                (forward-char (string-to-number (match-string 1)))
+                (point)))
+             alist)))
+     ;; Unix mbox format
+     ((= format ?m)
+      (while (looking-at mbox-delim)
+       (forward-line 1)
+       (push (list
+              (incf i) (point)
+              (progn
+                (if (re-search-forward mbox-delim nil t)
+                    (beginning-of-line)
+                  (goto-char (point-max)))
+                (point)))
+             alist)))
+     ;; MMDF format
+     ((= format ?M)
+      (while (looking-at "\^A\^A\^A\^A\n")
+       (forward-line 1)
+       (push (list
+              (incf i) (point)
+              (progn
+                (if (search-forward "\n\^A\^A\^A\^A\n" nil t)
+                    (beginning-of-line)
+                  (goto-char (point-max)))
+                (point)))
+             alist)))
+     ;; Binary format
+     ((or (= format ?B) (= format ?b))
+      (while (not (eobp))
+       (setq len (+ (* (char-after (point)) (expt 2.0 24))
+                    (* (char-after (+ (point) 1)) (expt 2 16))
+                    (* (char-after (+ (point) 2)) (expt 2 8))
+                    (char-after (+ (point) 3))))
+       (push (list
+              (incf i) (+ (point) 4)
+              (progn
+                (forward-char (floor (+ len 4)))
+                (point)))
+             alist)))
+     (t
+      (error "Unknown format: %c" format)))
+    (push (cons (gnus-soup-area-prefix area) alist) nnsoup-article-alist)))
+
+(defun nnsoup-index-buffer (prefix &optional message)
+  (let* ((file (concat prefix (if message ".MSG" ".IDX")))
+        (buffer-name (concat " *nnsoup " file "*")))
+    (or (get-buffer buffer-name)       ; File already loaded.
+       (when (file-exists-p (expand-file-name file nnsoup-directory))
+         (save-excursion               ; Load the file.
+           (set-buffer (get-buffer-create buffer-name))
+           (buffer-disable-undo)
+           (push (cons nnsoup-current-group (current-buffer)) nnsoup-buffers)
+           (nnheader-insert-file-contents
+            (expand-file-name file nnsoup-directory))
+           (current-buffer))))))
+
+(defun nnsoup-file (prefix &optional message)
+  (expand-file-name
+   (concat prefix (if message ".MSG" ".IDX"))
+   nnsoup-directory))
+
+(defun nnsoup-message-buffer (prefix)
+  (nnsoup-index-buffer prefix 'msg))
+
+(defun nnsoup-unpack-packets ()
+  "Unpack all packets in `nnsoup-packet-directory'."
+  (let ((packets (directory-files
+                 nnsoup-packet-directory t nnsoup-packet-regexp))
+       packet)
+    (while (setq packet (pop packets))
+      (nnheader-message 5 "nnsoup: unpacking %s..." packet)
+      (if (not (gnus-soup-unpack-packet
+               nnsoup-tmp-directory nnsoup-unpacker packet))
+         (nnheader-message 5 "Couldn't unpack %s" packet)
+       (delete-file packet)
+       (nnsoup-read-areas)
+       (nnheader-message 5 "Unpacking...done")))))
+
+(defun nnsoup-narrow-to-article (article &optional area head)
+  (let* ((area (or area (nnsoup-article-to-area article nnsoup-current-group)))
+        (prefix (and area (gnus-soup-area-prefix (nth 1 area))))
+        (msg-buf (and prefix (nnsoup-index-buffer prefix 'msg)))
+        beg end)
+    (when area
+      (save-excursion
+       (cond
+        ;; There is no MSG file.
+        ((null msg-buf)
+         nil)
+        ;; We use the index file to find out where the article
+        ;; begins and ends.
+        ((and (= (gnus-soup-encoding-index
+                  (gnus-soup-area-encoding (nth 1 area)))
+                 ?c)
+              (file-exists-p (nnsoup-file prefix)))
+         (set-buffer (nnsoup-index-buffer prefix))
+         (widen)
+         (goto-char (point-min))
+         (forward-line (- article (caar area)))
+         (setq beg (read (current-buffer)))
+         (forward-line 1)
+         (if (looking-at "[0-9]+")
+             (progn
+               (setq end (read (current-buffer)))
+               (set-buffer msg-buf)
+               (widen)
+               (let ((format (gnus-soup-encoding-format
+                              (gnus-soup-area-encoding (nth 1 area)))))
+                 (goto-char end)
+                 (when (or (= format ?u) (= format ?n) (= format ?m))
+                   (setq end (progn (forward-line -1) (point))))))
+           (set-buffer msg-buf))
+         (widen)
+         (narrow-to-region beg (or end (point-max))))
+        (t
+         (set-buffer msg-buf)
+         (widen)
+         (unless (assoc (gnus-soup-area-prefix (nth 1 area))
+                        nnsoup-article-alist)
+           (nnsoup-dissect-buffer (nth 1 area)))
+         (let ((entry (assq article (cdr (assoc (gnus-soup-area-prefix
+                                                 (nth 1 area))
+                                                nnsoup-article-alist)))))
+           (when entry
+             (narrow-to-region (cadr entry) (caddr entry))))))
+       (goto-char (point-min))
+       (if (not head)
+           ()
+         (narrow-to-region
+          (point-min)
+          (if (search-forward "\n\n" nil t)
+              (1- (point))
+            (point-max))))
+       msg-buf))))
+
+;;;###autoload
+(defun nnsoup-pack-replies ()
+  "Make an outbound package of SOUP replies."
+  (interactive)
+  (unless (file-exists-p nnsoup-replies-directory)
+    (nnheader-message 5 "No such directory: %s" nnsoup-replies-directory))
+  ;; Write all data buffers.
+  (gnus-soup-save-areas)
+  ;; Write the active file.
+  (nnsoup-write-active-file)
+  ;; Write the REPLIES file.
+  (nnsoup-write-replies)
+  ;; Check whether there is anything here.
+  (when (null (directory-files nnsoup-replies-directory nil "\\.MSG$"))
+    (error "No files to pack"))
+  ;; Pack all these files into a SOUP packet.
+  (gnus-soup-pack nnsoup-replies-directory nnsoup-packer))
+
+(defun nnsoup-write-replies ()
+  "Write the REPLIES file."
+  (when nnsoup-replies-list
+    (gnus-soup-write-replies nnsoup-replies-directory nnsoup-replies-list)
+    (setq nnsoup-replies-list nil)))
+
+(defun nnsoup-article-to-area (article group)
+  "Return the area that ARTICLE in GROUP is located in."
+  (let ((areas (cddr (assoc group nnsoup-group-alist))))
+    (while (and areas (< (cdar (car areas)) article))
+      (setq areas (cdr areas)))
+    (and areas (car areas))))
+
+(defvar nnsoup-old-functions
+  (list message-send-mail-real-function message-send-news-function))
+
+;;;###autoload
+(defun nnsoup-set-variables ()
+  "Use the SOUP methods for posting news and mailing mail."
+  (interactive)
+  (setq message-send-news-function 'nnsoup-request-post)
+  (setq message-send-mail-real-function 'nnsoup-request-mail))
+
+;;;###autoload
+(defun nnsoup-revert-variables ()
+  "Revert posting and mailing methods to the standard Emacs methods."
+  (interactive)
+  (setq message-send-mail-real-function (car nnsoup-old-functions))
+  (setq message-send-news-function (cadr nnsoup-old-functions)))
+
+(defun nnsoup-store-reply (kind)
+  ;; Mostly stolen from `message.el'.
+  (require 'mail-utils)
+  (let ((tembuf (generate-new-buffer " message temp"))
+       (case-fold-search nil)
+       delimline
+       (mailbuf (current-buffer)))
+    (unwind-protect
        (save-excursion
          (save-restriction
-           (narrow-to-region start end)
-           (nnmail-insert-lines)
-           (save-excursion
-             (goto-char (point-min))
-             (if (search-forward "\n\n" nil t)
-                 (progn
-                   (forward-char -1)
-                   (insert (format "X-Gnus-Article-Number: %d   %s\n" 
-                                   number (current-time-string))))))
-           (setq number (1+ number))))
-       (goto-char end)))
-    (set-buffer-modified-p nil)
-    (current-buffer)))
-
-(defun nnsoup-find-active ()
-  (set-buffer nntp-server-buffer)
-  (erase-buffer)
-  (or nnsoup-areas-list (nnsoup-read-areas))
-  (condition-case ()
-      (progn 
-       (let ((areas nnsoup-areas-list)
-             area)
-         (while areas 
-           (setq area (car areas)
-                 areas (cdr areas))
-           (insert (format "%s %s 1 y\n" (aref area 1) (aref area 4)))))
-       t)
-    (file-error nil)))
-
-(defun nnsoup-read-areas ()
-  (setq nnsoup-areas-list (gnus-soup-parse-areas nnsoup-areas-file))
-  (let ((areas nnsoup-areas-list)
-       area)
-    (while areas 
-      (setq area (car areas)
-           areas (cdr areas))
-      (aset area 4 (nnsoup-count-area area)))))
-
-(defun nnsoup-count-area (area)
-  (or (aref area 4)
-      (number-to-string 
-       (nnsoup-count-mbox (concat nnsoup-directory (aref area 0) ".MSG")))))
-
-(defun nnsoup-count-mbox (file)
-  (let ((delete (find-buffer-visiting file))
-       (num 0)
-       (delim (concat "^" rmail-unix-mail-delimiter)))
-    (save-excursion
-      (set-buffer (find-file-noselect file))
+           (message-narrow-to-headers)
+           (if (equal kind "mail")
+               (message-generate-headers message-required-mail-headers)
+             (message-generate-headers message-required-news-headers)))
+         (set-buffer tembuf)
+         (erase-buffer)
+         (insert-buffer-substring mailbuf)
+         ;; Remove some headers.
+         (save-restriction
+           (message-narrow-to-headers)
+           ;; Remove some headers.
+           (message-remove-header message-ignored-mail-headers t))
+         (goto-char (point-max))
+         ;; require one newline at the end.
+         (or (= (preceding-char) ?\n)
+             (insert ?\n))
+         (let ((case-fold-search t))
+           ;; Change header-delimiter to be what sendmail expects.
+           (goto-char (point-min))
+           (re-search-forward
+            (concat "^" (regexp-quote mail-header-separator) "\n"))
+           (replace-match "\n")
+           (backward-char 1)
+           (setq delimline (point-marker))
+           (goto-char (1+ delimline))
+           (let ((msg-buf
+                  (gnus-soup-store
+                   nnsoup-replies-directory
+                   (nnsoup-kind-to-prefix kind) nil nnsoup-replies-format-type
+                   nnsoup-replies-index-type))
+                 (num 0))
+             (when (and msg-buf (bufferp msg-buf))
+               (save-excursion
+                 (set-buffer msg-buf)
+                 (goto-char (point-min))
+                 (while (re-search-forward "^#! *rnews" nil t)
+                   (incf num))
+                 (when nnsoup-always-save
+                   (save-buffer)))
+               (nnheader-message 5 "Stored %d messages" num)))
+           (nnsoup-write-replies)
+           (kill-buffer tembuf))))))
+
+(defun nnsoup-kind-to-prefix (kind)
+  (unless nnsoup-replies-list
+    (setq nnsoup-replies-list
+         (gnus-soup-parse-replies
+          (expand-file-name "REPLIES" nnsoup-replies-directory))))
+  (let ((replies nnsoup-replies-list))
+    (while (and replies
+               (not (string= kind (gnus-soup-reply-kind (car replies)))))
+      (setq replies (cdr replies)))
+    (if replies
+       (gnus-soup-reply-prefix (car replies))
+      (push (vector (gnus-soup-unique-prefix nnsoup-replies-directory)
+                   kind
+                   (format "%c%c%c"
+                           nnsoup-replies-format-type
+                           nnsoup-replies-index-type
+                           (if (string= kind "news")
+                               ?n ?m)))
+           nnsoup-replies-list)
+      (gnus-soup-reply-prefix (car nnsoup-replies-list)))))
+
+(defun nnsoup-make-active ()
+  "(Re-)create the SOUP active file."
+  (interactive)
+  (let ((files (sort (directory-files nnsoup-directory t "IDX$")
+                    (lambda (f1 f2)
+                      (< (progn (string-match "/\\([0-9]+\\)\\." f1)
+                                (string-to-int (match-string 1 f1)))
+                         (progn (string-match "/\\([0-9]+\\)\\." f2)
+                                (string-to-int (match-string 1 f2)))))))
+       active group lines ident elem min)
+    (set-buffer (get-buffer-create " *nnsoup work*"))
+    (while files
+      (nnheader-message 5 "Doing %s..." (car files))
+      (erase-buffer)
+      (nnheader-insert-file-contents (car files))
       (goto-char (point-min))
-      (while (re-search-forward delim nil t)
-       (setq num (1+ num)))
-      (if delete (kill-buffer delete))
-      num)))
-
-(defun nnsoup-group-file (group)
-  (let ((areas nnsoup-areas-list)
-       area result)
-    (while areas 
-      (setq area (car areas)
-           areas (cdr areas))
-      (if (equal (aref area 1) group)
-         (setq result (concat nnsoup-directory (aref area 0) ".MSG"))))
-    result))
+      (if (not (re-search-forward "^[^\t]*\t[^\t]*\t[^\t]*\t[^\t]*\t[^\t]*\t[^\t]*\t[^\t]*\t[^\t]*\t *\\(Xref: \\)? *[^ ]* \\([^ ]+\\):[0-9]" nil t))
+         (setq group "unknown")
+       (setq group (match-string 2)))
+      (setq lines (count-lines (point-min) (point-max)))
+      (setq ident (progn (string-match
+                         "/\\([0-9]+\\)\\." (car files))
+                        (substring
+                         (car files) (match-beginning 1)
+                         (match-end 1))))
+      (if (not (setq elem (assoc group active)))
+         (push (list group (cons 1 lines)
+                     (list (cons 1 lines)
+                           (vector ident group "ucm" "" lines)))
+               active)
+       (nconc elem
+              (list
+               (list (cons (1+ (setq min (cdadr elem)))
+                           (+ min lines))
+                     (vector ident group "ucm" "" lines))))
+       (setcdr (cadr elem) (+ min lines)))
+      (setq files (cdr files)))
+    (nnheader-message 5 "")
+    (setq nnsoup-group-alist active)
+    (nnsoup-write-active-file t)))
+
+(defun nnsoup-delete-unreferenced-message-files ()
+  "Delete any *.MSG and *.IDX files that aren't known by nnsoup."
+  (interactive)
+  (let* ((known (apply 'nconc (mapcar
+                              (lambda (ga)
+                                (mapcar
+                                 (lambda (area)
+                                   (gnus-soup-area-prefix (cadr area)))
+                                 (cddr ga)))
+                              nnsoup-group-alist)))
+        (regexp "\\.MSG$\\|\\.IDX$")
+        (files (directory-files nnsoup-directory nil regexp))
+        non-files file)
+    ;; Find all files that aren't known by nnsoup.
+    (while (setq file (pop files))
+      (string-match regexp file)
+      (unless (member (substring file 0 (match-beginning 0)) known)
+       (push file non-files)))
+    ;; Sort and delete the files.
+    (setq non-files (sort non-files 'string<))
+    (map-y-or-n-p "Delete file %s? "
+                 (lambda (file) (delete-file
+                                 (expand-file-name file nnsoup-directory)))
+                 non-files)))
 
 (provide 'nnsoup)