Add missing :version tags to new defcustoms and defgroups
[gnus] / lisp / auth-source.el
1 ;;; auth-source.el --- authentication sources for Gnus and Emacs
2
3 ;; Copyright (C) 2008-2012 Free Software Foundation, Inc.
4
5 ;; Author: Ted Zlatanov <tzz@lifelogs.com>
6 ;; Keywords: news
7
8 ;; This file is part of GNU Emacs.
9
10 ;; GNU Emacs is free software: you can redistribute it and/or modify
11 ;; it under the terms of the GNU General Public License as published by
12 ;; the Free Software Foundation, either version 3 of the License, or
13 ;; (at your option) any later version.
14
15 ;; GNU Emacs is distributed in the hope that it will be useful,
16 ;; but WITHOUT ANY WARRANTY; without even the implied warranty of
17 ;; MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18 ;; GNU General Public License for more details.
19
20 ;; You should have received a copy of the GNU General Public License
21 ;; along with GNU Emacs.  If not, see <http://www.gnu.org/licenses/>.
22
23 ;;; Commentary:
24
25 ;; This is the auth-source.el package.  It lets users tell Gnus how to
26 ;; authenticate in a single place.  Simplicity is the goal.  Instead
27 ;; of providing 5000 options, we'll stick to simple, easy to
28 ;; understand options.
29
30 ;; See the auth.info Info documentation for details.
31
32 ;; TODO:
33
34 ;; - never decode the backend file unless it's necessary
35 ;; - a more generic way to match backends and search backend contents
36 ;; - absorb netrc.el and simplify it
37 ;; - protect passwords better
38 ;; - allow creating and changing netrc lines (not files) e.g. change a password
39
40 ;;; Code:
41
42 (require 'password-cache)
43 (require 'mm-util)
44 (require 'gnus-util)
45 (require 'assoc)
46
47 (eval-when-compile (require 'cl))
48 (eval-and-compile
49   (or (ignore-errors (require 'eieio))
50       ;; gnus-fallback-lib/ from gnus/lisp/gnus-fallback-lib
51       (ignore-errors
52         (let ((load-path (cons (expand-file-name
53                                 "gnus-fallback-lib/eieio"
54                                 (file-name-directory (locate-library "gnus")))
55                                load-path)))
56           (require 'eieio)))
57       (error
58        "eieio not found in `load-path' or gnus-fallback-lib/ directory.")))
59
60 (autoload 'secrets-create-item "secrets")
61 (autoload 'secrets-delete-item "secrets")
62 (autoload 'secrets-get-alias "secrets")
63 (autoload 'secrets-get-attributes "secrets")
64 (autoload 'secrets-get-secret "secrets")
65 (autoload 'secrets-list-collections "secrets")
66 (autoload 'secrets-search-items "secrets")
67
68 (autoload 'rfc2104-hash "rfc2104")
69
70 (autoload 'plstore-open "plstore")
71 (autoload 'plstore-find "plstore")
72 (autoload 'plstore-put "plstore")
73 (autoload 'plstore-delete "plstore")
74 (autoload 'plstore-save "plstore")
75 (autoload 'plstore-get-file "plstore")
76
77 (autoload 'epg-make-context "epg")
78 (autoload 'epg-context-set-passphrase-callback "epg")
79 (autoload 'epg-decrypt-string "epg")
80 (autoload 'epg-context-set-armor "epg")
81 (autoload 'epg-encrypt-string "epg")
82
83 (autoload 'help-mode "help-mode" nil t)
84
85 (defvar secrets-enabled)
86
87 (defgroup auth-source nil
88   "Authentication sources."
89   :version "23.1" ;; No Gnus
90   :group 'gnus)
91
92 ;;;###autoload
93 (defcustom auth-source-cache-expiry 7200
94   "How many seconds passwords are cached, or nil to disable
95 expiring.  Overrides `password-cache-expiry' through a
96 let-binding."
97   :version "24.1"
98   :group 'auth-source
99   :type '(choice (const :tag "Never" nil)
100                  (const :tag "All Day" 86400)
101                  (const :tag "2 Hours" 7200)
102                  (const :tag "30 Minutes" 1800)
103                  (integer :tag "Seconds")))
104
105 ;;; The slots below correspond with the `auth-source-search' spec,
106 ;;; so a backend with :host set, for instance, would match only
107 ;;; searches for that host.  Normally they are nil.
108 (defclass auth-source-backend ()
109   ((type :initarg :type
110          :initform 'netrc
111          :type symbol
112          :custom symbol
113          :documentation "The backend type.")
114    (source :initarg :source
115            :type string
116            :custom string
117            :documentation "The backend source.")
118    (host :initarg :host
119          :initform t
120          :type t
121          :custom string
122          :documentation "The backend host.")
123    (user :initarg :user
124          :initform t
125          :type t
126          :custom string
127          :documentation "The backend user.")
128    (port :initarg :port
129          :initform t
130          :type t
131          :custom string
132          :documentation "The backend protocol.")
133    (data :initarg :data
134          :initform nil
135          :documentation "Internal backend data.")
136    (create-function :initarg :create-function
137                     :initform ignore
138                     :type function
139                     :custom function
140                     :documentation "The create function.")
141    (search-function :initarg :search-function
142                     :initform ignore
143                     :type function
144                     :custom function
145                     :documentation "The search function.")))
146
147 (defcustom auth-source-protocols '((imap "imap" "imaps" "143" "993")
148                                    (pop3 "pop3" "pop" "pop3s" "110" "995")
149                                    (ssh  "ssh" "22")
150                                    (sftp "sftp" "115")
151                                    (smtp "smtp" "25"))
152   "List of authentication protocols and their names"
153
154   :group 'auth-source
155   :version "23.2" ;; No Gnus
156   :type '(repeat :tag "Authentication Protocols"
157                  (cons :tag "Protocol Entry"
158                        (symbol :tag "Protocol")
159                        (repeat :tag "Names"
160                                (string :tag "Name")))))
161
162 ;;; generate all the protocols in a format Customize can use
163 ;;; TODO: generate on the fly from auth-source-protocols
164 (defconst auth-source-protocols-customize
165   (mapcar (lambda (a)
166             (let ((p (car-safe a)))
167               (list 'const
168                     :tag (upcase (symbol-name p))
169                     p)))
170           auth-source-protocols))
171
172 (defvar auth-source-creation-defaults nil
173   "Defaults for creating token values.  Usually let-bound.")
174
175 (defvar auth-source-creation-prompts nil
176   "Default prompts for token values.  Usually let-bound.")
177
178 (make-obsolete 'auth-source-hide-passwords nil "Emacs 24.1")
179
180 (defcustom auth-source-save-behavior 'ask
181   "If set, auth-source will respect it for save behavior."
182   :group 'auth-source
183   :version "23.2" ;; No Gnus
184   :type `(choice
185           :tag "auth-source new token save behavior"
186           (const :tag "Always save" t)
187           (const :tag "Never save" nil)
188           (const :tag "Ask" ask)))
189
190 ;; TODO: make the default (setq auth-source-netrc-use-gpg-tokens `((,(if (boundp 'epa-file-auto-mode-alist-entry) (car (symbol-value 'epa-file-auto-mode-alist-entry)) "\\.gpg\\'") never) (t gpg)))
191 ;; TODO: or maybe leave as (setq auth-source-netrc-use-gpg-tokens 'never)
192
193 (defcustom auth-source-netrc-use-gpg-tokens 'never
194   "Set this to tell auth-source when to create GPG password
195 tokens in netrc files.  It's either an alist or `never'.
196 Note that if EPA/EPG is not available, this should NOT be used."
197   :group 'auth-source
198   :version "23.2" ;; No Gnus
199   :type `(choice
200           (const :tag "Always use GPG password tokens" (t gpg))
201           (const :tag "Never use GPG password tokens" never)
202           (repeat :tag "Use a lookup list"
203                   (list
204                    (choice :tag "Matcher"
205                            (const :tag "Match anything" t)
206                            (const :tag "The EPA encrypted file extensions"
207                                   ,(if (boundp 'epa-file-auto-mode-alist-entry)
208                                        (car (symbol-value
209                                              'epa-file-auto-mode-alist-entry))
210                                      "\\.gpg\\'"))
211                            (regexp :tag "Regular expression"))
212                    (choice :tag "What to do"
213                            (const :tag "Save GPG-encrypted password tokens" gpg)
214                            (const :tag "Don't encrypt tokens" never))))))
215
216 (defvar auth-source-magic "auth-source-magic ")
217
218 (defcustom auth-source-do-cache t
219   "Whether auth-source should cache information with `password-cache'."
220   :group 'auth-source
221   :version "23.2" ;; No Gnus
222   :type `boolean)
223
224 (defcustom auth-source-debug nil
225   "Whether auth-source should log debug messages.
226
227 If the value is nil, debug messages are not logged.
228
229 If the value is t, debug messages are logged with `message'.  In
230 that case, your authentication data will be in the clear (except
231 for passwords).
232
233 If the value is a function, debug messages are logged by calling
234  that function using the same arguments as `message'."
235   :group 'auth-source
236   :version "23.2" ;; No Gnus
237   :type `(choice
238           :tag "auth-source debugging mode"
239           (const :tag "Log using `message' to the *Messages* buffer" t)
240           (const :tag "Log all trivia with `message' to the *Messages* buffer"
241                  trivia)
242           (function :tag "Function that takes arguments like `message'")
243           (const :tag "Don't log anything" nil)))
244
245 (defcustom auth-sources '("~/.authinfo" "~/.authinfo.gpg" "~/.netrc")
246   "List of authentication sources.
247
248 The default will get login and password information from
249 \"~/.authinfo.gpg\", which you should set up with the EPA/EPG
250 packages to be encrypted.  If that file doesn't exist, it will
251 try the unencrypted version \"~/.authinfo\" and the famous
252 \"~/.netrc\" file.
253
254 See the auth.info manual for details.
255
256 Each entry is the authentication type with optional properties.
257
258 It's best to customize this with `M-x customize-variable' because the choices
259 can get pretty complex."
260   :group 'auth-source
261   :version "24.1" ;; No Gnus
262   :type `(repeat :tag "Authentication Sources"
263                  (choice
264                   (string :tag "Just a file")
265                   (const :tag "Default Secrets API Collection" 'default)
266                   (const :tag "Login Secrets API Collection" "secrets:Login")
267                   (const :tag "Temp Secrets API Collection" "secrets:session")
268                   (list :tag "Source definition"
269                         (const :format "" :value :source)
270                         (choice :tag "Authentication backend choice"
271                                 (string :tag "Authentication Source (file)")
272                                 (list
273                                  :tag "Secret Service API/KWallet/GNOME Keyring"
274                                  (const :format "" :value :secrets)
275                                  (choice :tag "Collection to use"
276                                          (string :tag "Collection name")
277                                          (const :tag "Default" 'default)
278                                          (const :tag "Login" "Login")
279                                          (const
280                                           :tag "Temporary" "session"))))
281                         (repeat :tag "Extra Parameters" :inline t
282                                 (choice :tag "Extra parameter"
283                                         (list
284                                          :tag "Host"
285                                          (const :format "" :value :host)
286                                          (choice :tag "Host (machine) choice"
287                                                  (const :tag "Any" t)
288                                                  (regexp
289                                                   :tag "Regular expression")))
290                                         (list
291                                          :tag "Protocol"
292                                          (const :format "" :value :port)
293                                          (choice
294                                           :tag "Protocol"
295                                           (const :tag "Any" t)
296                                           ,@auth-source-protocols-customize))
297                                         (list :tag "User" :inline t
298                                               (const :format "" :value :user)
299                                               (choice
300                                                :tag "Personality/Username"
301                                                (const :tag "Any" t)
302                                                (string
303                                                 :tag "Name")))))))))
304
305 (defcustom auth-source-gpg-encrypt-to t
306   "List of recipient keys that `authinfo.gpg' encrypted to.
307 If the value is not a list, symmetric encryption will be used."
308   :group 'auth-source
309   :version "24.1" ;; No Gnus
310   :type '(choice (const :tag "Symmetric encryption" t)
311                  (repeat :tag "Recipient public keys"
312                          (string :tag "Recipient public key"))))
313
314 ;; temp for debugging
315 ;; (unintern 'auth-source-protocols)
316 ;; (unintern 'auth-sources)
317 ;; (customize-variable 'auth-sources)
318 ;; (setq auth-sources nil)
319 ;; (format "%S" auth-sources)
320 ;; (customize-variable 'auth-source-protocols)
321 ;; (setq auth-source-protocols nil)
322 ;; (format "%S" auth-source-protocols)
323 ;; (auth-source-pick nil :host "a" :port 'imap)
324 ;; (auth-source-user-or-password "login" "imap.myhost.com" 'imap)
325 ;; (auth-source-user-or-password "password" "imap.myhost.com" 'imap)
326 ;; (auth-source-user-or-password-imap "login" "imap.myhost.com")
327 ;; (auth-source-user-or-password-imap "password" "imap.myhost.com")
328 ;; (auth-source-protocol-defaults 'imap)
329
330 ;; (let ((auth-source-debug 'debug)) (auth-source-do-debug "hello"))
331 ;; (let ((auth-source-debug t)) (auth-source-do-debug "hello"))
332 ;; (let ((auth-source-debug nil)) (auth-source-do-debug "hello"))
333 (defun auth-source-do-debug (&rest msg)
334   (when auth-source-debug
335     (apply 'auth-source-do-warn msg)))
336
337 (defun auth-source-do-trivia (&rest msg)
338   (when (or (eq auth-source-debug 'trivia)
339             (functionp auth-source-debug))
340     (apply 'auth-source-do-warn msg)))
341
342 (defun auth-source-do-warn (&rest msg)
343   (apply
344    ;; set logger to either the function in auth-source-debug or 'message
345    ;; note that it will be 'message if auth-source-debug is nil
346    (if (functionp auth-source-debug)
347        auth-source-debug
348      'message)
349    msg))
350
351
352 ;;; (auth-source-read-char-choice "enter choice? " '(?a ?b ?q))
353 (defun auth-source-read-char-choice (prompt choices)
354   "Read one of CHOICES by `read-char-choice', or `read-char'.
355 `dropdown-list' support is disabled because it doesn't work reliably.
356 Only one of CHOICES will be returned.  The PROMPT is augmented
357 with \"[a/b/c] \" if CHOICES is '\(?a ?b ?c\)."
358   (when choices
359     (let* ((prompt-choices
360             (apply 'concat (loop for c in choices
361                                  collect (format "%c/" c))))
362            (prompt-choices (concat "[" (substring prompt-choices 0 -1) "] "))
363            (full-prompt (concat prompt prompt-choices))
364            k)
365
366       (while (not (memq k choices))
367         (setq k (cond
368                  ((fboundp 'read-char-choice)
369                   (read-char-choice full-prompt choices))
370                  (t (message "%s" full-prompt)
371                     (setq k (read-char))))))
372       k)))
373
374 ;; (auth-source-pick nil :host "any" :port 'imap :user "joe")
375 ;; (auth-source-pick t :host "any" :port 'imap :user "joe")
376 ;; (setq auth-sources '((:source (:secrets default) :host t :port t :user "joe")
377 ;;                   (:source (:secrets "session") :host t :port t :user "joe")
378 ;;                   (:source (:secrets "Login") :host t :port t)
379 ;;                   (:source "~/.authinfo.gpg" :host t :port t)))
380
381 ;; (setq auth-sources '((:source (:secrets default) :host t :port t :user "joe")
382 ;;                   (:source (:secrets "session") :host t :port t :user "joe")
383 ;;                   (:source (:secrets "Login") :host t :port t)
384 ;;                   ))
385
386 ;; (setq auth-sources '((:source "~/.authinfo.gpg" :host t :port t)))
387
388 ;; (auth-source-backend-parse "myfile.gpg")
389 ;; (auth-source-backend-parse 'default)
390 ;; (auth-source-backend-parse "secrets:Login")
391
392 (defun auth-source-backend-parse (entry)
393   "Creates an auth-source-backend from an ENTRY in `auth-sources'."
394   (auth-source-backend-parse-parameters
395    entry
396    (cond
397     ;; take 'default and recurse to get it as a Secrets API default collection
398     ;; matching any user, host, and protocol
399     ((eq entry 'default)
400      (auth-source-backend-parse '(:source (:secrets default))))
401     ;; take secrets:XYZ and recurse to get it as Secrets API collection "XYZ"
402     ;; matching any user, host, and protocol
403     ((and (stringp entry) (string-match "^secrets:\\(.+\\)" entry))
404      (auth-source-backend-parse `(:source (:secrets ,(match-string 1 entry)))))
405     ;; take just a file name and recurse to get it as a netrc file
406     ;; matching any user, host, and protocol
407     ((stringp entry)
408      (auth-source-backend-parse `(:source ,entry)))
409
410     ;; a file name with parameters
411     ((stringp (plist-get entry :source))
412      (if (equal (file-name-extension (plist-get entry :source)) "plist")
413          (auth-source-backend
414           (plist-get entry :source)
415           :source (plist-get entry :source)
416           :type 'plstore
417           :search-function 'auth-source-plstore-search
418           :create-function 'auth-source-plstore-create
419           :data (plstore-open (plist-get entry :source)))
420        (auth-source-backend
421         (plist-get entry :source)
422         :source (plist-get entry :source)
423         :type 'netrc
424         :search-function 'auth-source-netrc-search
425         :create-function 'auth-source-netrc-create)))
426
427     ;; the Secrets API.  We require the package, in order to have a
428     ;; defined value for `secrets-enabled'.
429     ((and
430       (not (null (plist-get entry :source))) ; the source must not be nil
431       (listp (plist-get entry :source))      ; and it must be a list
432       (require 'secrets nil t)               ; and we must load the Secrets API
433       secrets-enabled)                       ; and that API must be enabled
434
435      ;; the source is either the :secrets key in ENTRY or
436      ;; if that's missing or nil, it's "session"
437      (let ((source (or (plist-get (plist-get entry :source) :secrets)
438                        "session")))
439
440        ;; if the source is a symbol, we look for the alias named so,
441        ;; and if that alias is missing, we use "Login"
442        (when (symbolp source)
443          (setq source (or (secrets-get-alias (symbol-name source))
444                           "Login")))
445
446        (if (featurep 'secrets)
447            (auth-source-backend
448             (format "Secrets API (%s)" source)
449             :source source
450             :type 'secrets
451             :search-function 'auth-source-secrets-search
452             :create-function 'auth-source-secrets-create)
453          (auth-source-do-warn
454           "auth-source-backend-parse: no Secrets API, ignoring spec: %S" entry)
455          (auth-source-backend
456           (format "Ignored Secrets API (%s)" source)
457           :source ""
458           :type 'ignore))))
459
460     ;; none of them
461     (t
462      (auth-source-do-warn
463       "auth-source-backend-parse: invalid backend spec: %S" entry)
464      (auth-source-backend
465       "Empty"
466       :source ""
467       :type 'ignore)))))
468
469 (defun auth-source-backend-parse-parameters (entry backend)
470   "Fills in the extra auth-source-backend parameters of ENTRY.
471 Using the plist ENTRY, get the :host, :port, and :user search
472 parameters."
473   (let ((entry (if (stringp entry)
474                    nil
475                  entry))
476         val)
477     (when (setq val (plist-get entry :host))
478       (oset backend host val))
479     (when (setq val (plist-get entry :user))
480       (oset backend user val))
481     (when (setq val (plist-get entry :port))
482       (oset backend port val)))
483   backend)
484
485 ;; (mapcar 'auth-source-backend-parse auth-sources)
486
487 (defun* auth-source-search (&rest spec
488                                   &key type max host user port secret
489                                   require create delete
490                                   &allow-other-keys)
491   "Search or modify authentication backends according to SPEC.
492
493 This function parses `auth-sources' for matches of the SPEC
494 plist.  It can optionally create or update an authentication
495 token if requested.  A token is just a standard Emacs property
496 list with a :secret property that can be a function; all the
497 other properties will always hold scalar values.
498
499 Typically the :secret property, if present, contains a password.
500
501 Common search keys are :max, :host, :port, and :user.  In
502 addition, :create specifies how tokens will be or created.
503 Finally, :type can specify which backend types you want to check.
504
505 A string value is always matched literally.  A symbol is matched
506 as its string value, literally.  All the SPEC values can be
507 single values (symbol or string) or lists thereof (in which case
508 any of the search terms matches).
509
510 :create t means to create a token if possible.
511
512 A new token will be created if no matching tokens were found.
513 The new token will have only the keys the backend requires.  For
514 the netrc backend, for instance, that's the user, host, and
515 port keys.
516
517 Here's an example:
518
519 \(let ((auth-source-creation-defaults '((user . \"defaultUser\")
520                                         (A    . \"default A\"))))
521   (auth-source-search :host \"mine\" :type 'netrc :max 1
522                       :P \"pppp\" :Q \"qqqq\"
523                       :create t))
524
525 which says:
526
527 \"Search for any entry matching host 'mine' in backends of type
528  'netrc', maximum one result.
529
530  Create a new entry if you found none.  The netrc backend will
531  automatically require host, user, and port.  The host will be
532  'mine'.  We prompt for the user with default 'defaultUser' and
533  for the port without a default.  We will not prompt for A, Q,
534  or P.  The resulting token will only have keys user, host, and
535  port.\"
536
537 :create '(A B C) also means to create a token if possible.
538
539 The behavior is like :create t but if the list contains any
540 parameter, that parameter will be required in the resulting
541 token.  The value for that parameter will be obtained from the
542 search parameters or from user input.  If any queries are needed,
543 the alist `auth-source-creation-defaults' will be checked for the
544 default value.  If the user, host, or port are missing, the alist
545 `auth-source-creation-prompts' will be used to look up the
546 prompts IN THAT ORDER (so the 'user prompt will be queried first,
547 then 'host, then 'port, and finally 'secret).  Each prompt string
548 can use %u, %h, and %p to show the user, host, and port.
549
550 Here's an example:
551
552 \(let ((auth-source-creation-defaults '((user . \"defaultUser\")
553                                         (A    . \"default A\")))
554        (auth-source-creation-prompts
555         '((password . \"Enter IMAP password for %h:%p: \"))))
556   (auth-source-search :host '(\"nonesuch\" \"twosuch\") :type 'netrc :max 1
557                       :P \"pppp\" :Q \"qqqq\"
558                       :create '(A B Q)))
559
560 which says:
561
562 \"Search for any entry matching host 'nonesuch'
563  or 'twosuch' in backends of type 'netrc', maximum one result.
564
565  Create a new entry if you found none.  The netrc backend will
566  automatically require host, user, and port.  The host will be
567  'nonesuch' and Q will be 'qqqq'.  We prompt for the password
568  with the shown prompt.  We will not prompt for Q.  The resulting
569  token will have keys user, host, port, A, B, and Q.  It will not
570  have P with any value, even though P is used in the search to
571  find only entries that have P set to 'pppp'.\"
572
573 When multiple values are specified in the search parameter, the
574 user is prompted for which one.  So :host (X Y Z) would ask the
575 user to choose between X, Y, and Z.
576
577 This creation can fail if the search was not specific enough to
578 create a new token (it's up to the backend to decide that).  You
579 should `catch' the backend-specific error as usual.  Some
580 backends (netrc, at least) will prompt the user rather than throw
581 an error.
582
583 :require (A B C) means that only results that contain those
584 tokens will be returned.  Thus for instance requiring :secret
585 will ensure that any results will actually have a :secret
586 property.
587
588 :delete t means to delete any found entries.  nil by default.
589 Use `auth-source-delete' in ELisp code instead of calling
590 `auth-source-search' directly with this parameter.
591
592 :type (X Y Z) will check only those backend types.  'netrc and
593 'secrets are the only ones supported right now.
594
595 :max N means to try to return at most N items (defaults to 1).
596 When 0 the function will return just t or nil to indicate if any
597 matches were found.  More than N items may be returned, depending
598 on the search and the backend.
599
600 :host (X Y Z) means to match only hosts X, Y, or Z according to
601 the match rules above.  Defaults to t.
602
603 :user (X Y Z) means to match only users X, Y, or Z according to
604 the match rules above.  Defaults to t.
605
606 :port (P Q R) means to match only protocols P, Q, or R.
607 Defaults to t.
608
609 :K (V1 V2 V3) for any other key K will match values V1, V2, or
610 V3 (note the match rules above).
611
612 The return value is a list with at most :max tokens.  Each token
613 is a plist with keys :backend :host :port :user, plus any other
614 keys provided by the backend (notably :secret).  But note the
615 exception for :max 0, which see above.
616
617 The token can hold a :save-function key.  If you call that, the
618 user will be prompted to save the data to the backend.  You can't
619 request that this should happen right after creation, because
620 `auth-source-search' has no way of knowing if the token is
621 actually useful.  So the caller must arrange to call this function.
622
623 The token's :secret key can hold a function.  In that case you
624 must call it to obtain the actual value."
625   (let* ((backends (mapcar 'auth-source-backend-parse auth-sources))
626          (max (or max 1))
627          (ignored-keys '(:require :create :delete :max))
628          (keys (loop for i below (length spec) by 2
629                      unless (memq (nth i spec) ignored-keys)
630                      collect (nth i spec)))
631          (cached (auth-source-remembered-p spec))
632          ;; note that we may have cached results but found is still nil
633          ;; (there were no results from the search)
634          (found (auth-source-recall spec))
635          filtered-backends accessor-key backend)
636
637     (if (and cached auth-source-do-cache)
638         (auth-source-do-debug
639          "auth-source-search: found %d CACHED results matching %S"
640          (length found) spec)
641
642       (assert
643        (or (eq t create) (listp create)) t
644        "Invalid auth-source :create parameter (must be t or a list): %s %s")
645
646       (assert
647        (listp require) t
648        "Invalid auth-source :require parameter (must be a list): %s")
649
650       (setq filtered-backends (copy-sequence backends))
651       (dolist (backend backends)
652         (dolist (key keys)
653           ;; ignore invalid slots
654           (condition-case signal
655               (unless (eval `(auth-source-search-collection
656                               (plist-get spec key)
657                               (oref backend ,key)))
658                 (setq filtered-backends (delq backend filtered-backends))
659                 (return))
660             (invalid-slot-name))))
661
662       (auth-source-do-trivia
663        "auth-source-search: found %d backends matching %S"
664        (length filtered-backends) spec)
665
666       ;; (debug spec "filtered" filtered-backends)
667       ;; First go through all the backends without :create, so we can
668       ;; query them all.
669       (setq found (auth-source-search-backends filtered-backends
670                                                spec
671                                                ;; to exit early
672                                                max
673                                                ;; create is always nil here
674                                                nil delete
675                                                require))
676
677       (auth-source-do-debug
678        "auth-source-search: found %d results (max %d) matching %S"
679        (length found) max spec)
680
681       ;; If we didn't find anything, then we allow the backend(s) to
682       ;; create the entries.
683       (when (and create
684                  (not found))
685         (setq found (auth-source-search-backends filtered-backends
686                                                  spec
687                                                  ;; to exit early
688                                                  max
689                                                  create delete
690                                                  require))
691         (auth-source-do-debug
692          "auth-source-search: CREATED %d results (max %d) matching %S"
693          (length found) max spec))
694
695       ;; note we remember the lack of result too, if it's applicable
696       (when auth-source-do-cache
697         (auth-source-remember spec found)))
698
699     found))
700
701 (defun auth-source-search-backends (backends spec max create delete require)
702   (let (matches)
703     (dolist (backend backends)
704       (when (> max (length matches))   ; when we need more matches...
705         (let* ((bmatches (apply
706                           (slot-value backend 'search-function)
707                           :backend backend
708                           ;; note we're overriding whatever the spec
709                           ;; has for :require, :create, and :delete
710                           :require require
711                           :create create
712                           :delete delete
713                           spec)))
714           (when bmatches
715             (auth-source-do-trivia
716              "auth-source-search-backend: got %d (max %d) in %s:%s matching %S"
717              (length bmatches) max
718              (slot-value backend :type)
719              (slot-value backend :source)
720              spec)
721             (setq matches (append matches bmatches))))))
722     matches))
723
724 ;;; (auth-source-search :max 1)
725 ;;; (funcall (plist-get (nth 0 (auth-source-search :max 1)) :secret))
726 ;;; (auth-source-search :host "nonesuch" :type 'netrc :K 1)
727 ;;; (auth-source-search :host "nonesuch" :type 'secrets)
728
729 (defun* auth-source-delete (&rest spec
730                                   &key delete
731                                   &allow-other-keys)
732   "Delete entries from the authentication backends according to SPEC.
733 Calls `auth-source-search' with the :delete property in SPEC set to t.
734 The backend may not actually delete the entries.
735
736 Returns the deleted entries."
737   (auth-source-search (plist-put spec :delete t)))
738
739 (defun auth-source-search-collection (collection value)
740   "Returns t is VALUE is t or COLLECTION is t or contains VALUE."
741   (when (and (atom collection) (not (eq t collection)))
742     (setq collection (list collection)))
743
744   ;; (debug :collection collection :value value)
745   (or (eq collection t)
746       (eq value t)
747       (equal collection value)
748       (member value collection)))
749
750 (defvar auth-source-netrc-cache nil)
751
752 (defun auth-source-forget-all-cached ()
753   "Forget all cached auth-source data."
754   (interactive)
755   (loop for sym being the symbols of password-data
756         ;; when the symbol name starts with auth-source-magic
757         when (string-match (concat "^" auth-source-magic)
758                            (symbol-name sym))
759         ;; remove that key
760         do (password-cache-remove (symbol-name sym)))
761   (setq auth-source-netrc-cache nil))
762
763 (defun auth-source-format-cache-entry (spec)
764   "Format SPEC entry to put it in the password cache."
765   (concat auth-source-magic (format "%S" spec)))
766
767 (defun auth-source-remember (spec found)
768   "Remember FOUND search results for SPEC."
769   (let ((password-cache-expiry auth-source-cache-expiry))
770     (password-cache-add
771      (auth-source-format-cache-entry spec) found)))
772
773 (defun auth-source-recall (spec)
774   "Recall FOUND search results for SPEC."
775   (password-read-from-cache (auth-source-format-cache-entry spec)))
776
777 (defun auth-source-remembered-p (spec)
778   "Check if SPEC is remembered."
779   (password-in-cache-p
780    (auth-source-format-cache-entry spec)))
781
782 (defun auth-source-forget (spec)
783   "Forget any cached data matching SPEC exactly.
784
785 This is the same SPEC you passed to `auth-source-search'.
786 Returns t or nil for forgotten or not found."
787   (password-cache-remove (auth-source-format-cache-entry spec)))
788
789 ;;; (loop for sym being the symbols of password-data when (string-match (concat "^" auth-source-magic) (symbol-name sym)) collect (symbol-name sym))
790
791 ;;; (auth-source-remember '(:host "wedd") '(4 5 6))
792 ;;; (auth-source-remembered-p '(:host "wedd"))
793 ;;; (auth-source-remember '(:host "xedd") '(1 2 3))
794 ;;; (auth-source-remembered-p '(:host "xedd"))
795 ;;; (auth-source-remembered-p '(:host "zedd"))
796 ;;; (auth-source-recall '(:host "xedd"))
797 ;;; (auth-source-recall '(:host t))
798 ;;; (auth-source-forget+ :host t)
799
800 (defun* auth-source-forget+ (&rest spec &allow-other-keys)
801   "Forget any cached data matching SPEC.  Returns forgotten count.
802
803 This is not a full `auth-source-search' spec but works similarly.
804 For instance, \(:host \"myhost\" \"yourhost\") would find all the
805 cached data that was found with a search for those two hosts,
806 while \(:host t) would find all host entries."
807   (let ((count 0)
808         sname)
809     (loop for sym being the symbols of password-data
810           ;; when the symbol name matches with auth-source-magic
811           when (and (setq sname (symbol-name sym))
812                     (string-match (concat "^" auth-source-magic "\\(.+\\)")
813                                   sname)
814                     ;; and the spec matches what was stored in the cache
815                     (auth-source-specmatchp spec (read (match-string 1 sname))))
816           ;; remove that key
817           do (progn
818                (password-cache-remove sname)
819                (incf count)))
820     count))
821
822 (defun auth-source-specmatchp (spec stored)
823   (let ((keys (loop for i below (length spec) by 2
824                     collect (nth i spec))))
825     (not (eq
826           (dolist (key keys)
827             (unless (auth-source-search-collection (plist-get stored key)
828                                                    (plist-get spec key))
829               (return 'no)))
830           'no))))
831
832 ;;; (auth-source-pick-first-password :host "z.lifelogs.com")
833 ;;; (auth-source-pick-first-password :port "imap")
834 (defun auth-source-pick-first-password (&rest spec)
835   "Pick the first secret found from applying SPEC to `auth-source-search'."
836   (let* ((result (nth 0 (apply 'auth-source-search (plist-put spec :max 1))))
837          (secret (plist-get result :secret)))
838
839     (if (functionp secret)
840         (funcall secret)
841       secret)))
842
843 ;; (auth-source-format-prompt "test %u %h %p" '((?u "user") (?h "host")))
844 (defun auth-source-format-prompt (prompt alist)
845   "Format PROMPT using %x (for any character x) specifiers in ALIST."
846   (dolist (cell alist)
847     (let ((c (nth 0 cell))
848           (v (nth 1 cell)))
849       (when (and c v)
850         (setq prompt (replace-regexp-in-string (format "%%%c" c)
851                                                (format "%s" v)
852                                                prompt)))))
853   prompt)
854
855 (defun auth-source-ensure-strings (values)
856   (unless (listp values)
857     (setq values (list values)))
858   (mapcar (lambda (value)
859             (if (numberp value)
860                 (format "%s" value)
861               value))
862           values))
863
864 ;;; Backend specific parsing: netrc/authinfo backend
865
866 ;;; (auth-source-netrc-parse "~/.authinfo.gpg")
867 (defun* auth-source-netrc-parse (&rest
868                                  spec
869                                  &key file max host user port delete require
870                                  &allow-other-keys)
871   "Parse FILE and return a list of all entries in the file.
872 Note that the MAX parameter is used so we can exit the parse early."
873   (if (listp file)
874       ;; We got already parsed contents; just return it.
875       file
876     (when (file-exists-p file)
877       (setq port (auth-source-ensure-strings port))
878       (with-temp-buffer
879         (let* ((tokens '("machine" "host" "default" "login" "user"
880                          "password" "account" "macdef" "force"
881                          "port" "protocol"))
882                (max (or max 5000))       ; sanity check: default to stop at 5K
883                (modified 0)
884                (cached (cdr-safe (assoc file auth-source-netrc-cache)))
885                (cached-mtime (plist-get cached :mtime))
886                (cached-secrets (plist-get cached :secret))
887                alist elem result pair)
888
889           (if (and (functionp cached-secrets)
890                    (equal cached-mtime
891                           (nth 5 (file-attributes file))))
892               (progn
893                 (auth-source-do-trivia
894                  "auth-source-netrc-parse: using CACHED file data for %s"
895                  file)
896                 (insert (funcall cached-secrets)))
897             (insert-file-contents file)
898             ;; cache all netrc files (used to be just .gpg files)
899             ;; Store the contents of the file heavily encrypted in memory.
900             ;; (note for the irony-impaired: they are just obfuscated)
901             (aput 'auth-source-netrc-cache file
902                   (list :mtime (nth 5 (file-attributes file))
903                         :secret (lexical-let ((v (mapcar '1+ (buffer-string))))
904                                   (lambda () (apply 'string (mapcar '1- v)))))))
905           (goto-char (point-min))
906           ;; Go through the file, line by line.
907           (while (and (not (eobp))
908                       (> max 0))
909
910             (narrow-to-region (point) (point-at-eol))
911             ;; For each line, get the tokens and values.
912             (while (not (eobp))
913               (skip-chars-forward "\t ")
914               ;; Skip lines that begin with a "#".
915               (if (eq (char-after) ?#)
916                   (goto-char (point-max))
917                 (unless (eobp)
918                   (setq elem
919                         (if (= (following-char) ?\")
920                             (read (current-buffer))
921                           (buffer-substring
922                            (point) (progn (skip-chars-forward "^\t ")
923                                           (point)))))
924                   (cond
925                    ((equal elem "macdef")
926                     ;; We skip past the macro definition.
927                     (widen)
928                     (while (and (zerop (forward-line 1))
929                                 (looking-at "$")))
930                     (narrow-to-region (point) (point)))
931                    ((member elem tokens)
932                     ;; Tokens that don't have a following value are ignored,
933                     ;; except "default".
934                     (when (and pair (or (cdr pair)
935                                         (equal (car pair) "default")))
936                       (push pair alist))
937                     (setq pair (list elem)))
938                    (t
939                     ;; Values that haven't got a preceding token are ignored.
940                     (when pair
941                       (setcdr pair elem)
942                       (push pair alist)
943                       (setq pair nil)))))))
944
945             (when (and alist
946                        (> max 0)
947                        (auth-source-search-collection
948                         host
949                         (or
950                          (aget alist "machine")
951                          (aget alist "host")
952                          t))
953                        (auth-source-search-collection
954                         user
955                         (or
956                          (aget alist "login")
957                          (aget alist "account")
958                          (aget alist "user")
959                          t))
960                        (auth-source-search-collection
961                         port
962                         (or
963                          (aget alist "port")
964                          (aget alist "protocol")
965                          t))
966                        (or
967                         ;; the required list of keys is nil, or
968                         (null require)
969                         ;; every element of require is in the normalized list
970                         (let ((normalized (nth 0 (auth-source-netrc-normalize
971                                                   (list alist) file))))
972                           (loop for req in require
973                                 always (plist-get normalized req)))))
974               (decf max)
975               (push (nreverse alist) result)
976               ;; to delete a line, we just comment it out
977               (when delete
978                 (goto-char (point-min))
979                 (insert "#")
980                 (incf modified)))
981             (setq alist nil
982                   pair nil)
983             (widen)
984             (forward-line 1))
985
986           (when (< 0 modified)
987             (when auth-source-gpg-encrypt-to
988               ;; (see bug#7487) making `epa-file-encrypt-to' local to
989               ;; this buffer lets epa-file skip the key selection query
990               ;; (see the `local-variable-p' check in
991               ;; `epa-file-write-region').
992               (unless (local-variable-p 'epa-file-encrypt-to (current-buffer))
993                 (make-local-variable 'epa-file-encrypt-to))
994               (if (listp auth-source-gpg-encrypt-to)
995                   (setq epa-file-encrypt-to auth-source-gpg-encrypt-to)))
996
997             ;; ask AFTER we've successfully opened the file
998             (when (y-or-n-p (format "Save file %s? (%d deletions)"
999                                     file modified))
1000               (write-region (point-min) (point-max) file nil 'silent)
1001               (auth-source-do-debug
1002                "auth-source-netrc-parse: modified %d lines in %s"
1003                modified file)))
1004
1005           (nreverse result))))))
1006
1007 (defvar auth-source-passphrase-alist nil)
1008
1009 (defun auth-source-token-passphrase-callback-function (context key-id file)
1010   (let* ((file (file-truename file))
1011          (entry (assoc file auth-source-passphrase-alist))
1012          passphrase)
1013     ;; return the saved passphrase, calling a function if needed
1014     (or (copy-sequence (if (functionp (cdr entry))
1015                            (funcall (cdr entry))
1016                          (cdr entry)))
1017         (progn
1018           (unless entry
1019             (setq entry (list file))
1020             (push entry auth-source-passphrase-alist))
1021           (setq passphrase
1022                 (read-passwd
1023                  (format "Passphrase for %s tokens: " file)
1024                  t))
1025           (setcdr entry (lexical-let ((p (copy-sequence passphrase)))
1026                           (lambda () p)))
1027           passphrase))))
1028
1029 ;; (auth-source-epa-extract-gpg-token "gpg:LS0tLS1CRUdJTiBQR1AgTUVTU0FHRS0tLS0tClZlcnNpb246IEdudVBHIHYxLjQuMTEgKEdOVS9MaW51eCkKCmpBMEVBd01DT25qMjB1ak9rZnRneVI3K21iNm9aZWhuLzRad3cySkdlbnVaKzRpeEswWDY5di9icDI1U1dsQT0KPS9yc2wKLS0tLS1FTkQgUEdQIE1FU1NBR0UtLS0tLQo=" "~/.netrc")
1030 (defun auth-source-epa-extract-gpg-token (secret file)
1031   "Pass either the decoded SECRET or the gpg:BASE64DATA version.
1032 FILE is the file from which we obtained this token."
1033   (when (string-match "^gpg:\\(.+\\)" secret)
1034     (setq secret (base64-decode-string (match-string 1 secret))))
1035   (let ((context (epg-make-context 'OpenPGP))
1036         plain)
1037     (epg-context-set-passphrase-callback
1038      context
1039      (cons #'auth-source-token-passphrase-callback-function
1040            file))
1041     (epg-decrypt-string context secret)))
1042
1043 ;; (insert (auth-source-epa-make-gpg-token "mysecret" "~/.netrc"))
1044 (defun auth-source-epa-make-gpg-token (secret file)
1045   (let ((context (epg-make-context 'OpenPGP))
1046         (pp-escape-newlines nil)
1047         cipher)
1048     (epg-context-set-armor context t)
1049     (epg-context-set-passphrase-callback
1050      context
1051      (cons #'auth-source-token-passphrase-callback-function
1052            file))
1053     (setq cipher (epg-encrypt-string context secret nil))
1054     (with-temp-buffer
1055       (insert cipher)
1056       (base64-encode-region (point-min) (point-max) t)
1057       (concat "gpg:" (buffer-substring-no-properties
1058                       (point-min)
1059                       (point-max))))))
1060
1061 (defun auth-source-netrc-normalize (alist filename)
1062   (mapcar (lambda (entry)
1063             (let (ret item)
1064               (while (setq item (pop entry))
1065                 (let ((k (car item))
1066                       (v (cdr item)))
1067
1068                   ;; apply key aliases
1069                   (setq k (cond ((member k '("machine")) "host")
1070                                 ((member k '("login" "account")) "user")
1071                                 ((member k '("protocol")) "port")
1072                                 ((member k '("password")) "secret")
1073                                 (t k)))
1074
1075                   ;; send back the secret in a function (lexical binding)
1076                   (when (equal k "secret")
1077                     (setq v (lexical-let ((lexv v)
1078                                           (token-decoder nil))
1079                               (when (string-match "^gpg:" lexv)
1080                                 ;; it's a GPG token: create a token decoder
1081                                 ;; which unsets itself once
1082                                 (setq token-decoder
1083                                       (lambda (val)
1084                                         (prog1
1085                                             (auth-source-epa-extract-gpg-token
1086                                              val
1087                                              filename)
1088                                           (setq token-decoder nil)))))
1089                               (lambda ()
1090                                 (when token-decoder
1091                                   (setq lexv (funcall token-decoder lexv)))
1092                                 lexv))))
1093                   (setq ret (plist-put ret
1094                                        (intern (concat ":" k))
1095                                        v))))
1096               ret))
1097           alist))
1098
1099 ;;; (setq secret (plist-get (nth 0 (auth-source-search :host t :type 'netrc :K 1 :max 1)) :secret))
1100 ;;; (funcall secret)
1101
1102 (defun* auth-source-netrc-search (&rest
1103                                   spec
1104                                   &key backend require create delete
1105                                   type max host user port
1106                                   &allow-other-keys)
1107   "Given a property list SPEC, return search matches from the :backend.
1108 See `auth-source-search' for details on SPEC."
1109   ;; just in case, check that the type is correct (null or same as the backend)
1110   (assert (or (null type) (eq type (oref backend type)))
1111           t "Invalid netrc search: %s %s")
1112
1113   (let ((results (auth-source-netrc-normalize
1114                   (auth-source-netrc-parse
1115                    :max max
1116                    :require require
1117                    :delete delete
1118                    :file (oref backend source)
1119                    :host (or host t)
1120                    :user (or user t)
1121                    :port (or port t))
1122                   (oref backend source))))
1123
1124     ;; if we need to create an entry AND none were found to match
1125     (when (and create
1126                (not results))
1127
1128       ;; create based on the spec and record the value
1129       (setq results (or
1130                      ;; if the user did not want to create the entry
1131                      ;; in the file, it will be returned
1132                      (apply (slot-value backend 'create-function) spec)
1133                      ;; if not, we do the search again without :create
1134                      ;; to get the updated data.
1135
1136                      ;; the result will be returned, even if the search fails
1137                      (apply 'auth-source-netrc-search
1138                             (plist-put spec :create nil)))))
1139     results))
1140
1141 (defun auth-source-netrc-element-or-first (v)
1142   (if (listp v)
1143       (nth 0 v)
1144     v))
1145
1146 ;;; (auth-source-search :host "nonesuch" :type 'netrc :max 1 :create t)
1147 ;;; (auth-source-search :host "nonesuch" :type 'netrc :max 1 :create t :create-extra-keys '((A "default A") (B)))
1148
1149 (defun* auth-source-netrc-create (&rest spec
1150                                         &key backend
1151                                         secret host user port create
1152                                         &allow-other-keys)
1153   (let* ((base-required '(host user port secret))
1154          ;; we know (because of an assertion in auth-source-search) that the
1155          ;; :create parameter is either t or a list (which includes nil)
1156          (create-extra (if (eq t create) nil create))
1157          (current-data (car (auth-source-search :max 1
1158                                                 :host host
1159                                                 :port port)))
1160          (required (append base-required create-extra))
1161          (file (oref backend source))
1162          (add "")
1163          ;; `valist' is an alist
1164          valist
1165          ;; `artificial' will be returned if no creation is needed
1166          artificial)
1167
1168     ;; only for base required elements (defined as function parameters):
1169     ;; fill in the valist with whatever data we may have from the search
1170     ;; we complete the first value if it's a list and use the value otherwise
1171     (dolist (br base-required)
1172       (when (symbol-value br)
1173         (let ((br-choice (cond
1174                           ;; all-accepting choice (predicate is t)
1175                           ((eq t (symbol-value br)) nil)
1176                           ;; just the value otherwise
1177                           (t (symbol-value br)))))
1178           (when br-choice
1179             (aput 'valist br br-choice)))))
1180
1181     ;; for extra required elements, see if the spec includes a value for them
1182     (dolist (er create-extra)
1183       (let ((name (concat ":" (symbol-name er)))
1184             (keys (loop for i below (length spec) by 2
1185                         collect (nth i spec))))
1186         (dolist (k keys)
1187           (when (equal (symbol-name k) name)
1188             (aput 'valist er (plist-get spec k))))))
1189
1190     ;; for each required element
1191     (dolist (r required)
1192       (let* ((data (aget valist r))
1193              ;; take the first element if the data is a list
1194              (data (or (auth-source-netrc-element-or-first data)
1195                        (plist-get current-data
1196                                   (intern (format ":%s" r) obarray))))
1197              ;; this is the default to be offered
1198              (given-default (aget auth-source-creation-defaults r))
1199              ;; the default supplementals are simple:
1200              ;; for the user, try `given-default' and then (user-login-name);
1201              ;; otherwise take `given-default'
1202              (default (cond
1203                        ((and (not given-default) (eq r 'user))
1204                         (user-login-name))
1205                        (t given-default)))
1206              (printable-defaults (list
1207                                   (cons 'user
1208                                         (or
1209                                          (auth-source-netrc-element-or-first
1210                                           (aget valist 'user))
1211                                          (plist-get artificial :user)
1212                                          "[any user]"))
1213                                   (cons 'host
1214                                         (or
1215                                          (auth-source-netrc-element-or-first
1216                                           (aget valist 'host))
1217                                          (plist-get artificial :host)
1218                                          "[any host]"))
1219                                   (cons 'port
1220                                         (or
1221                                          (auth-source-netrc-element-or-first
1222                                           (aget valist 'port))
1223                                          (plist-get artificial :port)
1224                                          "[any port]"))))
1225              (prompt (or (aget auth-source-creation-prompts r)
1226                          (case r
1227                            (secret "%p password for %u@%h: ")
1228                            (user "%p user name for %h: ")
1229                            (host "%p host name for user %u: ")
1230                            (port "%p port for %u@%h: "))
1231                          (format "Enter %s (%%u@%%h:%%p): " r)))
1232              (prompt (auth-source-format-prompt
1233                       prompt
1234                       `((?u ,(aget printable-defaults 'user))
1235                         (?h ,(aget printable-defaults 'host))
1236                         (?p ,(aget printable-defaults 'port))))))
1237
1238         ;; Store the data, prompting for the password if needed.
1239         (setq data (or data
1240                        (if (eq r 'secret)
1241                            ;; Special case prompt for passwords.
1242                            ;; TODO: make the default (setq auth-source-netrc-use-gpg-tokens `((,(if (boundp 'epa-file-auto-mode-alist-entry) (car (symbol-value 'epa-file-auto-mode-alist-entry)) "\\.gpg\\'") nil) (t gpg)))
1243                            ;; TODO: or maybe leave as (setq auth-source-netrc-use-gpg-tokens 'never)
1244                            (let* ((ep (format "Use GPG password tokens in %s?" file))
1245                                   (gpg-encrypt
1246                                    (cond
1247                                     ((eq auth-source-netrc-use-gpg-tokens 'never)
1248                                      'never)
1249                                     ((listp auth-source-netrc-use-gpg-tokens)
1250                                      (let ((check (copy-sequence
1251                                                    auth-source-netrc-use-gpg-tokens))
1252                                            item ret)
1253                                        (while check
1254                                          (setq item (pop check))
1255                                          (when (or (eq (car item) t)
1256                                                    (string-match (car item) file))
1257                                            (setq ret (cdr item))
1258                                            (setq check nil)))))
1259                                     (t 'never)))
1260                                   (plain (or (eval default) (read-passwd prompt))))
1261                              ;; ask if we don't know what to do (in which case
1262                              ;; auth-source-netrc-use-gpg-tokens must be a list)
1263                              (unless gpg-encrypt
1264                                (setq gpg-encrypt (if (y-or-n-p ep) 'gpg 'never))
1265                                ;; TODO: save the defcustom now? or ask?
1266                                (setq auth-source-netrc-use-gpg-tokens
1267                                      (cons `(,file ,gpg-encrypt)
1268                                            auth-source-netrc-use-gpg-tokens)))
1269                              (if (eq gpg-encrypt 'gpg)
1270                                  (auth-source-epa-make-gpg-token plain file)
1271                                plain))
1272                          (if (stringp default)
1273                              (read-string (if (string-match ": *\\'" prompt)
1274                                               (concat (substring prompt 0 (match-beginning 0))
1275                                                       " (default " default "): ")
1276                                             (concat prompt "(default " default ") "))
1277                                           nil nil default)
1278                            (eval default)))))
1279
1280         (when data
1281           (setq artificial (plist-put artificial
1282                                       (intern (concat ":" (symbol-name r)))
1283                                       (if (eq r 'secret)
1284                                           (lexical-let ((data data))
1285                                             (lambda () data))
1286                                         data))))
1287
1288         ;; When r is not an empty string...
1289         (when (and (stringp data)
1290                    (< 0 (length data)))
1291           ;; this function is not strictly necessary but I think it
1292           ;; makes the code clearer -tzz
1293           (let ((printer (lambda ()
1294                            ;; append the key (the symbol name of r)
1295                            ;; and the value in r
1296                            (format "%s%s %s"
1297                                    ;; prepend a space
1298                                    (if (zerop (length add)) "" " ")
1299                                    ;; remap auth-source tokens to netrc
1300                                    (case r
1301                                      (user   "login")
1302                                      (host   "machine")
1303                                      (secret "password")
1304                                      (port   "port") ; redundant but clearer
1305                                      (t (symbol-name r)))
1306                                    (if (string-match "[\" ]" data)
1307                                        (format "%S" data)
1308                                      data)))))
1309             (setq add (concat add (funcall printer)))))))
1310
1311     (plist-put
1312      artificial
1313      :save-function
1314      (lexical-let ((file file)
1315                    (add add))
1316        (lambda () (auth-source-netrc-saver file add))))
1317
1318     (list artificial)))
1319
1320 ;;(funcall (plist-get (nth 0 (auth-source-search :host '("nonesuch2") :user "tzz" :port "imap" :create t :max 1)) :save-function))
1321 (defun auth-source-netrc-saver (file add)
1322   "Save a line ADD in FILE, prompting along the way.
1323 Respects `auth-source-save-behavior'.  Uses
1324 `auth-source-netrc-cache' to avoid prompting more than once."
1325   (let* ((key (format "%s %s" file (rfc2104-hash 'md5 64 16 file add)))
1326          (cached (assoc key auth-source-netrc-cache)))
1327
1328     (if cached
1329         (auth-source-do-trivia
1330          "auth-source-netrc-saver: found previous run for key %s, returning"
1331          key)
1332       (with-temp-buffer
1333         (when (file-exists-p file)
1334           (insert-file-contents file))
1335         (when auth-source-gpg-encrypt-to
1336           ;; (see bug#7487) making `epa-file-encrypt-to' local to
1337           ;; this buffer lets epa-file skip the key selection query
1338           ;; (see the `local-variable-p' check in
1339           ;; `epa-file-write-region').
1340           (unless (local-variable-p 'epa-file-encrypt-to (current-buffer))
1341             (make-local-variable 'epa-file-encrypt-to))
1342           (if (listp auth-source-gpg-encrypt-to)
1343               (setq epa-file-encrypt-to auth-source-gpg-encrypt-to)))
1344         ;; we want the new data to be found first, so insert at beginning
1345         (goto-char (point-min))
1346
1347         ;; Ask AFTER we've successfully opened the file.
1348         (let ((prompt (format "Save auth info to file %s? " file))
1349               (done (not (eq auth-source-save-behavior 'ask)))
1350               (bufname "*auth-source Help*")
1351               k)
1352           (while (not done)
1353             (setq k (auth-source-read-char-choice prompt '(?y ?n ?N ?e ??)))
1354             (case k
1355               (?y (setq done t))
1356               (?? (save-excursion
1357                     (with-output-to-temp-buffer bufname
1358                       (princ
1359                        (concat "(y)es, save\n"
1360                                "(n)o but use the info\n"
1361                                "(N)o and don't ask to save again\n"
1362                                "(e)dit the line\n"
1363                                "(?) for help as you can see.\n"))
1364                       ;; Why?  Doesn't with-output-to-temp-buffer already do
1365                       ;; the exact same thing anyway?  --Stef
1366                       (set-buffer standard-output)
1367                       (help-mode))))
1368               (?n (setq add ""
1369                         done t))
1370               (?N
1371                (setq add ""
1372                      done t)
1373                (customize-save-variable 'auth-source-save-behavior nil))
1374               (?e (setq add (read-string "Line to add: " add)))
1375               (t nil)))
1376
1377           (when (get-buffer-window bufname)
1378             (delete-window (get-buffer-window bufname)))
1379
1380           ;; Make sure the info is not saved.
1381           (when (null auth-source-save-behavior)
1382             (setq add ""))
1383
1384           (when (< 0 (length add))
1385             (progn
1386               (unless (bolp)
1387                 (insert "\n"))
1388               (insert add "\n")
1389               (write-region (point-min) (point-max) file nil 'silent)
1390               ;; Make the .authinfo file non-world-readable.
1391               (set-file-modes file #o600)
1392               (auth-source-do-debug
1393                "auth-source-netrc-create: wrote 1 new line to %s"
1394                file)
1395               (message "Saved new authentication information to %s" file)
1396               nil))))
1397       (aput 'auth-source-netrc-cache key "ran"))))
1398
1399 ;;; Backend specific parsing: Secrets API backend
1400
1401 ;;; (let ((auth-sources '(default))) (auth-source-search :max 1 :create t))
1402 ;;; (let ((auth-sources '(default))) (auth-source-search :max 1 :delete t))
1403 ;;; (let ((auth-sources '(default))) (auth-source-search :max 1))
1404 ;;; (let ((auth-sources '(default))) (auth-source-search))
1405 ;;; (let ((auth-sources '("secrets:Login"))) (auth-source-search :max 1))
1406 ;;; (let ((auth-sources '("secrets:Login"))) (auth-source-search :max 1 :signon_realm "https://git.gnus.org/Git"))
1407
1408 (defun* auth-source-secrets-search (&rest
1409                                     spec
1410                                     &key backend create delete label
1411                                     type max host user port
1412                                     &allow-other-keys)
1413   "Search the Secrets API; spec is like `auth-source'.
1414
1415 The :label key specifies the item's label.  It is the only key
1416 that can specify a substring.  Any :label value besides a string
1417 will allow any label.
1418
1419 All other search keys must match exactly.  If you need substring
1420 matching, do a wider search and narrow it down yourself.
1421
1422 You'll get back all the properties of the token as a plist.
1423
1424 Here's an example that looks for the first item in the 'Login'
1425 Secrets collection:
1426
1427  \(let ((auth-sources '(\"secrets:Login\")))
1428     (auth-source-search :max 1)
1429
1430 Here's another that looks for the first item in the 'Login'
1431 Secrets collection whose label contains 'gnus':
1432
1433  \(let ((auth-sources '(\"secrets:Login\")))
1434     (auth-source-search :max 1 :label \"gnus\")
1435
1436 And this one looks for the first item in the 'Login' Secrets
1437 collection that's a Google Chrome entry for the git.gnus.org site
1438 authentication tokens:
1439
1440  \(let ((auth-sources '(\"secrets:Login\")))
1441     (auth-source-search :max 1 :signon_realm \"https://git.gnus.org/Git\"))
1442 "
1443
1444   ;; TODO
1445   (assert (not create) nil
1446           "The Secrets API auth-source backend doesn't support creation yet")
1447   ;; TODO
1448   ;; (secrets-delete-item coll elt)
1449   (assert (not delete) nil
1450           "The Secrets API auth-source backend doesn't support deletion yet")
1451
1452   (let* ((coll (oref backend source))
1453          (max (or max 5000))     ; sanity check: default to stop at 5K
1454          (ignored-keys '(:create :delete :max :backend :label))
1455          (search-keys (loop for i below (length spec) by 2
1456                             unless (memq (nth i spec) ignored-keys)
1457                             collect (nth i spec)))
1458          ;; build a search spec without the ignored keys
1459          ;; if a search key is nil or t (match anything), we skip it
1460          (search-spec (apply 'append (mapcar
1461                                       (lambda (k)
1462                                         (if (or (null (plist-get spec k))
1463                                                 (eq t (plist-get spec k)))
1464                                             nil
1465                                           (list k (plist-get spec k))))
1466                                       search-keys)))
1467          ;; needed keys (always including host, login, port, and secret)
1468          (returned-keys (mm-delete-duplicates (append
1469                                                '(:host :login :port :secret)
1470                                                search-keys)))
1471          (items (loop for item in (apply 'secrets-search-items coll search-spec)
1472                       unless (and (stringp label)
1473                                   (not (string-match label item)))
1474                       collect item))
1475          ;; TODO: respect max in `secrets-search-items', not after the fact
1476          (items (butlast items (- (length items) max)))
1477          ;; convert the item name to a full plist
1478          (items (mapcar (lambda (item)
1479                           (append
1480                            ;; make an entry for the secret (password) element
1481                            (list
1482                             :secret
1483                             (lexical-let ((v (secrets-get-secret coll item)))
1484                               (lambda () v)))
1485                            ;; rewrite the entry from ((k1 v1) (k2 v2)) to plist
1486                            (apply 'append
1487                                   (mapcar (lambda (entry)
1488                                             (list (car entry) (cdr entry)))
1489                                           (secrets-get-attributes coll item)))))
1490                         items))
1491          ;; ensure each item has each key in `returned-keys'
1492          (items (mapcar (lambda (plist)
1493                           (append
1494                            (apply 'append
1495                                   (mapcar (lambda (req)
1496                                             (if (plist-get plist req)
1497                                                 nil
1498                                               (list req nil)))
1499                                           returned-keys))
1500                            plist))
1501                         items)))
1502     items))
1503
1504 (defun* auth-source-secrets-create (&rest
1505                                     spec
1506                                     &key backend type max host user port
1507                                     &allow-other-keys)
1508   ;; TODO
1509   ;; (apply 'secrets-create-item (auth-get-source entry) name passwd spec)
1510   (debug spec))
1511
1512 ;;; Backend specific parsing: PLSTORE backend
1513
1514 (defun* auth-source-plstore-search (&rest
1515                                     spec
1516                                     &key backend create delete label
1517                                     type max host user port
1518                                     &allow-other-keys)
1519   "Search the PLSTORE; spec is like `auth-source'."
1520   (let* ((store (oref backend data))
1521          (max (or max 5000))     ; sanity check: default to stop at 5K
1522          (ignored-keys '(:create :delete :max :backend :require))
1523          (search-keys (loop for i below (length spec) by 2
1524                             unless (memq (nth i spec) ignored-keys)
1525                             collect (nth i spec)))
1526          ;; build a search spec without the ignored keys
1527          ;; if a search key is nil or t (match anything), we skip it
1528          (search-spec (apply 'append (mapcar
1529                                       (lambda (k)
1530                                         (let ((v (plist-get spec k)))
1531                                           (if (or (null v)
1532                                                   (eq t v))
1533                                               nil
1534                                             (if (stringp v)
1535                                                 (setq v (list v)))
1536                                             (list k v))))
1537                                       search-keys)))
1538          ;; needed keys (always including host, login, port, and secret)
1539          (returned-keys (mm-delete-duplicates (append
1540                                                '(:host :login :port :secret)
1541                                                search-keys)))
1542          (items (plstore-find store search-spec))
1543          (item-names (mapcar #'car items))
1544          (items (butlast items (- (length items) max)))
1545          ;; convert the item to a full plist
1546          (items (mapcar (lambda (item)
1547                           (let* ((plist (copy-tree (cdr item)))
1548                                  (secret (plist-member plist :secret)))
1549                             (if secret
1550                                 (setcar
1551                                  (cdr secret)
1552                                  (lexical-let ((v (car (cdr secret))))
1553                                    (lambda () v))))
1554                             plist))
1555                         items))
1556          ;; ensure each item has each key in `returned-keys'
1557          (items (mapcar (lambda (plist)
1558                           (append
1559                            (apply 'append
1560                                   (mapcar (lambda (req)
1561                                             (if (plist-get plist req)
1562                                                 nil
1563                                               (list req nil)))
1564                                           returned-keys))
1565                            plist))
1566                         items)))
1567     (cond
1568      ;; if we need to create an entry AND none were found to match
1569      ((and create
1570            (not items))
1571
1572       ;; create based on the spec and record the value
1573       (setq items (or
1574                    ;; if the user did not want to create the entry
1575                    ;; in the file, it will be returned
1576                    (apply (slot-value backend 'create-function) spec)
1577                    ;; if not, we do the search again without :create
1578                    ;; to get the updated data.
1579
1580                    ;; the result will be returned, even if the search fails
1581                    (apply 'auth-source-plstore-search
1582                           (plist-put spec :create nil)))))
1583      ((and delete
1584            item-names)
1585       (dolist (item-name item-names)
1586         (plstore-delete store item-name))
1587       (plstore-save store)))
1588     items))
1589
1590 (defun* auth-source-plstore-create (&rest spec
1591                                           &key backend
1592                                           secret host user port create
1593                                           &allow-other-keys)
1594   (let* ((base-required '(host user port secret))
1595          (base-secret '(secret))
1596          ;; we know (because of an assertion in auth-source-search) that the
1597          ;; :create parameter is either t or a list (which includes nil)
1598          (create-extra (if (eq t create) nil create))
1599          (current-data (car (auth-source-search :max 1
1600                                                 :host host
1601                                                 :port port)))
1602          (required (append base-required create-extra))
1603          (file (oref backend source))
1604          (add "")
1605          ;; `valist' is an alist
1606          valist
1607          ;; `artificial' will be returned if no creation is needed
1608          artificial
1609          secret-artificial)
1610
1611     ;; only for base required elements (defined as function parameters):
1612     ;; fill in the valist with whatever data we may have from the search
1613     ;; we complete the first value if it's a list and use the value otherwise
1614     (dolist (br base-required)
1615       (when (symbol-value br)
1616         (let ((br-choice (cond
1617                           ;; all-accepting choice (predicate is t)
1618                           ((eq t (symbol-value br)) nil)
1619                           ;; just the value otherwise
1620                           (t (symbol-value br)))))
1621           (when br-choice
1622             (aput 'valist br br-choice)))))
1623
1624     ;; for extra required elements, see if the spec includes a value for them
1625     (dolist (er create-extra)
1626       (let ((name (concat ":" (symbol-name er)))
1627             (keys (loop for i below (length spec) by 2
1628                         collect (nth i spec))))
1629         (dolist (k keys)
1630           (when (equal (symbol-name k) name)
1631             (aput 'valist er (plist-get spec k))))))
1632
1633     ;; for each required element
1634     (dolist (r required)
1635       (let* ((data (aget valist r))
1636              ;; take the first element if the data is a list
1637              (data (or (auth-source-netrc-element-or-first data)
1638                        (plist-get current-data
1639                                   (intern (format ":%s" r) obarray))))
1640              ;; this is the default to be offered
1641              (given-default (aget auth-source-creation-defaults r))
1642              ;; the default supplementals are simple:
1643              ;; for the user, try `given-default' and then (user-login-name);
1644              ;; otherwise take `given-default'
1645              (default (cond
1646                        ((and (not given-default) (eq r 'user))
1647                         (user-login-name))
1648                        (t given-default)))
1649              (printable-defaults (list
1650                                   (cons 'user
1651                                         (or
1652                                          (auth-source-netrc-element-or-first
1653                                           (aget valist 'user))
1654                                          (plist-get artificial :user)
1655                                          "[any user]"))
1656                                   (cons 'host
1657                                         (or
1658                                          (auth-source-netrc-element-or-first
1659                                           (aget valist 'host))
1660                                          (plist-get artificial :host)
1661                                          "[any host]"))
1662                                   (cons 'port
1663                                         (or
1664                                          (auth-source-netrc-element-or-first
1665                                           (aget valist 'port))
1666                                          (plist-get artificial :port)
1667                                          "[any port]"))))
1668              (prompt (or (aget auth-source-creation-prompts r)
1669                          (case r
1670                            (secret "%p password for %u@%h: ")
1671                            (user "%p user name for %h: ")
1672                            (host "%p host name for user %u: ")
1673                            (port "%p port for %u@%h: "))
1674                          (format "Enter %s (%%u@%%h:%%p): " r)))
1675              (prompt (auth-source-format-prompt
1676                       prompt
1677                       `((?u ,(aget printable-defaults 'user))
1678                         (?h ,(aget printable-defaults 'host))
1679                         (?p ,(aget printable-defaults 'port))))))
1680
1681         ;; Store the data, prompting for the password if needed.
1682         (setq data (or data
1683                        (if (eq r 'secret)
1684                            (or (eval default) (read-passwd prompt))
1685                          (if (stringp default)
1686                              (read-string (if (string-match ": *\\'" prompt)
1687                                               (concat (substring prompt 0 (match-beginning 0))
1688                                                       " (default " default "): ")
1689                                             (concat prompt "(default " default ") "))
1690                                           nil nil default)
1691                            (eval default)))))
1692
1693         (when data
1694           (if (member r base-secret)
1695               (setq secret-artificial
1696                     (plist-put secret-artificial
1697                                (intern (concat ":" (symbol-name r)))
1698                                data))
1699             (setq artificial (plist-put artificial
1700                                         (intern (concat ":" (symbol-name r)))
1701                                         data))))))
1702     (plstore-put (oref backend data)
1703                  (sha1 (format "%s@%s:%s"
1704                                (plist-get artificial :user)
1705                                (plist-get artificial :host)
1706                                (plist-get artificial :port)))
1707                  artificial secret-artificial)
1708     (if (y-or-n-p (format "Save auth info to file %s? "
1709                           (plstore-get-file (oref backend data))))
1710         (plstore-save (oref backend data)))))
1711
1712 ;;; older API
1713
1714 ;;; (auth-source-user-or-password '("login" "password") "imap.myhost.com" t "tzz")
1715
1716 ;; deprecate the old interface
1717 (make-obsolete 'auth-source-user-or-password
1718                'auth-source-search "Emacs 24.1")
1719 (make-obsolete 'auth-source-forget-user-or-password
1720                'auth-source-forget "Emacs 24.1")
1721
1722 (defun auth-source-user-or-password
1723   (mode host port &optional username create-missing delete-existing)
1724   "Find MODE (string or list of strings) matching HOST and PORT.
1725
1726 DEPRECATED in favor of `auth-source-search'!
1727
1728 USERNAME is optional and will be used as \"login\" in a search
1729 across the Secret Service API (see secrets.el) if the resulting
1730 items don't have a username.  This means that if you search for
1731 username \"joe\" and it matches an item but the item doesn't have
1732 a :user attribute, the username \"joe\" will be returned.
1733
1734 A non nil DELETE-EXISTING means deleting any matching password
1735 entry in the respective sources.  This is useful only when
1736 CREATE-MISSING is non nil as well; the intended use case is to
1737 remove wrong password entries.
1738
1739 If no matching entry is found, and CREATE-MISSING is non nil,
1740 the password will be retrieved interactively, and it will be
1741 stored in the password database which matches best (see
1742 `auth-sources').
1743
1744 MODE can be \"login\" or \"password\"."
1745   (auth-source-do-debug
1746    "auth-source-user-or-password: DEPRECATED get %s for %s (%s) + user=%s"
1747    mode host port username)
1748
1749   (let* ((listy (listp mode))
1750          (mode (if listy mode (list mode)))
1751          (cname (if username
1752                     (format "%s %s:%s %s" mode host port username)
1753                   (format "%s %s:%s" mode host port)))
1754          (search (list :host host :port port))
1755          (search (if username (append search (list :user username)) search))
1756          (search (if create-missing
1757                      (append search (list :create t))
1758                    search))
1759          (search (if delete-existing
1760                      (append search (list :delete t))
1761                    search))
1762          ;; (found (if (not delete-existing)
1763          ;;            (gethash cname auth-source-cache)
1764          ;;          (remhash cname auth-source-cache)
1765          ;;          nil)))
1766          (found nil))
1767     (if found
1768         (progn
1769           (auth-source-do-debug
1770            "auth-source-user-or-password: DEPRECATED cached %s=%s for %s (%s) + %s"
1771            mode
1772            ;; don't show the password
1773            (if (and (member "password" mode) t)
1774                "SECRET"
1775              found)
1776            host port username)
1777           found)                        ; return the found data
1778       ;; else, if not found, search with a max of 1
1779       (let ((choice (nth 0 (apply 'auth-source-search
1780                                   (append '(:max 1) search)))))
1781         (when choice
1782           (dolist (m mode)
1783             (cond
1784              ((equal "password" m)
1785               (push (if (plist-get choice :secret)
1786                         (funcall (plist-get choice :secret))
1787                       nil) found))
1788              ((equal "login" m)
1789               (push (plist-get choice :user) found)))))
1790         (setq found (nreverse found))
1791         (setq found (if listy found (car-safe found)))))
1792
1793     found))
1794
1795 (defun auth-source-user-and-password (host &optional user)
1796   (let* ((auth-info (car
1797                      (if user
1798                          (auth-source-search
1799                           :host host
1800                           :user "yourusername"
1801                           :max 1
1802                           :require '(:user :secret)
1803                           :create nil)
1804                        (auth-source-search
1805                         :host host
1806                         :max 1
1807                         :require '(:user :secret)
1808                         :create nil))))
1809          (user (plist-get auth-info :user))
1810          (password (plist-get auth-info :secret)))
1811     (when (functionp password)
1812       (setq password (funcall password)))
1813     (list user password auth-info)))
1814
1815 (provide 'auth-source)
1816
1817 ;;; auth-source.el ends here