Thunderbird und sieve

Sunday, January 29. 2012

 ThunderBird zeigt mit sieve in Unterordner einsortierte Mails nicht mehr zuverlaessig an

Eine neue mail ist von einem Filter nach dings/bums/gedöns sortiert worden: der Ordner wird fett dargestellt, in Klammern die Anzahl ungelesener Mails darin. Nie ein Problem mit thunderBirds eigenen Message Filtern. Aber nun, mit Sieve, bekomme ich die Anzeige oft erst, wenn ich den betreffenden Ordner mit der Maus anklicke, öffne. Google findet mir nur einen vergleichbaren Report, dort mit cyrus sieve. 
Ganz am Ende des Threads der Hinweis 'I suppose you've already set Thunderbird to check for new mails in all IMAP subfolders? "Preferences->Advanced->Config Editor->mail.check_all_imap_folders_for_new"?
Bei mir stand da false, nun in true geändert. 
Scheint geholfen zu haben.

ThunderBirds Filterregeln in sieve-script übersetzen

Bei ausgedehnter Ordnerstruktur und entsprechend viel Filterregeln viel Arbeit, bislang vor mir hergeschoben. Sie stehen jeweils  in ~/.icedove/$profileName/ImapMail/$accountName/msgFilterRules.dat Jetzt finde ich Regelübersetzer als Online-Dienst. Von der Art mag es noch mehr geben; man kann ihnen aber auch nicht unbesehen trauen. Der eine übersetzte in brauchbare Regeln, fügte aber nicht sichtbare Zeichen ein, die ich mit Suchen/Ersetzen in einem guten Editor bereinigen musste. Der andere schmiß gar gleich eine uncaught exception...

 

courier, dovecot, sieve, push mail

Monday, January 23. 2012

 Courier tat seine Arbeit an sich wunderbar, aber in der Integration von desktop- und mobilem Mailabruf stand es mir dann doch im Wege. Ich wollte

  • mail-Sortierung und -filterung auf dem Server
  • dazu gerne das sieve-Addon zu ThunderBird nutzen
  • push-mail für k-9 mail auf meinem android verlaesslich und doch batterieschonend einrichten

Das sprach für einen Wechsel von Courier zu dovecot. Dabei habe ich auf debian oldstable (Lenny) einige Varianten durchprobiert.

Ein paar hilfreiche WebSeiten vorweg, Migration to Dovecot (1.0), Courier to Dovecot 

courier -> dovecot 1.0

Der erste Anlauf blieb geradewegs im Rahmen des in der Distribution enthaltenen:

apt-get install dovecot-imapd dovecot-pop3d
dovecot --version  (1.0.15-2.3+lenny1)

Weiter, nach Maßgabe des dovecot-Wiki, mit dem Script zur Migration der Daten

cd /usr/local/bin
mkdir dovecot-mig
cd dovecot-mig/
wget http://www.dovecot.org/tools/courier-dovecot-migrate-1.0.pl
./courier-dovecot-migrate-1.0.pl --recursive --convert /home

Und zur Dovecot - Konfiguration:

Für SSL bietet dovecot.conf viele Felder aber ich wollte einfach das auch für Courier eingesetzte chained certificate weiterverwenden, ging so:

joe dovecot.conf

# chained certificate doppelt eintragen
ssl_cert_file = /etc/ssl/certs/startssl/mail.domain.tld.pem
ssl_key_file = /etc/ssl/certs/startssl/mail.domain.tld.pem

# dovecot 1.0 lauscht so an IPv4 und IPv6 
listen = [::] 

# Pfad zum maildir
mail_location = maildir:~/Maildir

# namespace wie courier
namespace private {
  prefix = INBOX.
  separator = .
  inbox = yes 
}

dovecot neu starten:

/etc/init.d/dovecot restart

Ergebnis? Beim ersten start des MUA (Thunderbird) gab es einen Wald von Messageboxen und Thunderbird war eine Weile beschaeftigt, Mails zu synchronisieren. Ansonsten gings soweit ohne Drama, nur das Mail-filtern wollte nicht.

 

courier -> dovecot 1.2

Im zweiten Anlauf habe ich, auf einem anderen server, die in den backports vorgehaltene Version dovecot 1.2 installiert:

# backports in sources.list eintragen
joe /etc/apt/sources.list
deb http://www.backports.org/debian lenny-backports main contrib non-free

# und der key dazu, sonst nervt apt-get bei jedem Aufruf
sudo wget -O - http://backports.org/debian/archive.key | sudo apt-key add -
sudo apt-get update
sudo apt-get -t lenny-backports install dovecot-common dovecot-pop3d dovecot-imapd

 

Weiter, nach Maßgabe des dovecot-Wiki, mit dem Script zur Migration der Daten in der version fuer dovecot 1.1+

cd /usr/local/bin
mkdir dovecot-mig
cd dovecot-mig/
wget http://www.dovecot.org/tools/courier-dovecot-migrate.pl
./courier-dovecot-migrate.pl --recursive --convert /home

 

# die Anpassungen der Konfig
joe /etc/dovecot/dovecot.conf

# managagesieve und lda bringen die Mailsortierung auf dem server zuwege
protocols = imap pop3 pop3s imaps managesieve lda

# sowohl auf IPv4 wie IPv6 lauschen
listen = *, [::] 

# im default verbietet dovecot Klartext-Passworte, aber hier haette es manche Klienten ausgesperrt
disable_plaintext_auth = no

# chained cert doppelt eintragen
ssl_cert_file = /etc/ssl/certs/startssl/mail.domain.tld.pem
ssl_key_file = /etc/ssl/certs/startssl/mail.domain.tld.pem

# lda ist der local delivery agent und stoesst das sieben und reindizieren der mails bei Auslieferung an
protocol lda {
postmaster_address = master@server.domain
mail_plugins = sieve
}

# sieve_dir ist das Verzeichnis, in dem Filterscripte abgelegt werden. unter dovecot 1.2 ist deren Name beliebig
plugin {
sieve = ~/.dovecot.sieve
sieve_dir = ~/mails/sieve
}

Konfig speichern und dovecot neu starten

/etc/init.d/dovecot restart

Damit der lda deliver nun auch benutzt wird, muss er postfix bekannt gemacht werden:

joe /etc/postfix/main.cf

mailbox_command = /usr/lib/dovecot/deliver
 
Speichern und geanderte Konfig laden:
/etc/init.d/postfix reload

Auch hier gab es mit Thunderbird zuerst mal Messageboxen und Resynchronisierung, aber dann liessen sich zur Belohnung Filterregeln für's serverseitige Filtern aus Thunderbird heraus editieren und es ging auch.


 dovecot 1.2 -> dovecot 2.0

den Anstoss für dieses Upgrade gab ein Blog-Artikel von Peter Kieser mit der Argumentation:

  • push funktioniert auf IMAP, indem zwischen dem Client und dem Server die Verbindung IDLE offengehalten wird. Alle paar Minuten werden "OK Still here"-Nachrichten ausgetauscht.
  • Wenn das geschieht, reaktiviert Android eine reihe ruhende Netzwerk-Funktionen und die ziehen Strom, je häufiger das geschieht, je mehr leidet die Batterielaufzeit.
  • K-9 hat als default einen refresh alle 24 Minuten, dovecot aber alle 2 Minuten.
  • mit dovecot 1.2 laesst sich daran per Config nichts ändern, Dovecot 2.0 hat dagegen einen Parameter imap_idle_notify_interval 

Dovecot 2.0 gibt es für Lenny als Prebuilt Binary, Upgrading Dovecot v1.2 to v2.0 im dovecot-wiki hilft auch weiter.
Als erstes /etc/dovecot/dovecot.conf in ein backup sichern, so dass im weiteren nichts verloren geht, auch wenn man im install die dovecot.conf durch die neue Version ersetzen laesst!

cp /etc/dovecot/dovecot.conf /etc/dovecot/dovecot.conf.1-2

 

# apt sources.list erweitern
joe /etc/apt/sources.list
 
# lenny is oldstable
deb http://xi.rename-it.nl/debian/ oldstable-auto/dovecot-2.0 main

# speichern, dann key besorgen
wget -O - http://xi.rename-it.nl/debian/archive.key | apt-key add -
 
# und dovecot 2 installieren
apt-get update && apt-get upgrade
apt-get install dovecot-imapd dovecot-pop3d dovecot-managesieved

 

# die Konfigurationsdateien sehen für dovecot 2.0  einiges anders aus, die in dovecot 1.2 schon sehr umfangreiche dovecot.conf ist nun viel kuerzer und inkludiert stattdessen Konfigurationsdateien aus einem gesonderten Verzeichnis. Und optional eine local.conf, die ich mit diesen Einträgen angelegt habe:

 

# /etc/dovecot/local.conf
mail_location = maildir:~/Maildir
namespace {
  inbox = yes
  location = 
  prefix = INBOX.
  separator = .
  type = private
}
passdb {
  driver = pam
}
plugin {
  sieve = ~/.dovecot.sieve
  sieve_dir = ~/sieve
}
protocols = " imap pop3 sieve "
ssl_cert = </etc/ssl/certs/startssl/mail.domain.tld.crt
ssl_key = </etc/ssl/certs/startssl/mail.domain.tld.key
ssl_ca = </etc/ssl/certs/startssl/startssl.chain.class1.server.crt
 
service managesieve-login {
  inet_listener sieve {
    port = 4190
  }
  inet_listener sieve_deprecated {
    port = 2000
  }
}
 
userdb {
  driver = passwd
}
protocol imap {
  imap_idle_notify_interval = 29 mins
  mail_max_userip_connections = 60
}
 
protocol lda {
  postmaster_address = postmaster@datenwusel-hosting.de
  mail_plugins = sieve
  log_path = /var/log/dovecot/deliver.log
  info_log_path = /var/log/dovecot/deliver-info.log
}
disable_plaintext_auth = no
auth_cache_size = 5M
log_timestamp = "%Y-%m-%d %H:%M:%S "
 
Bei der Gelegenheit habe ich auch das courier-style - .pem beurlaubt und ssl key, cert, ca einzeln eingebunden. Mehr dazu hier.
Anschliessend dovecot neu starten und dann in /etc/postfix/main.cf eine kleine Änderung vornehmen:
mailbox_command = /usr/lib/dovecot/dovecot-lda -f "$SENDER" -a "$RECIPIENT"
 
Ich musste auch den Namen der Datei mit den Filterregeln umbenennen, da nur noch Dateien mit der extension .sieve interpretiert werden.
 
sieve error log

Wenn der lda bei der Abarbeitung des sieve-scriptes einen Fehler feststellt, etwa wg eines Tippfehlers, einen Ordner nicht findet, schreibt er eine Fehlermeldung in ~/.dovecot.sieve.log 

fail2ban - Regel für dovecot

Auch hierzu wird man im dovecot-wiki fündig.

 

push mail und (android-app) juice defender

Die beiden stehen sich schon im Weg, juice defender erzielt seine laufzeitverlängernden Wirkungen nicht zuletzt, indem es die Datenverbindung des smartPhone nur periodisch aktiviert. Mit den default-Einstellungen hatte es bei mir schon merklich was bewirkt, aber der push mail zuliebe habe ich es deaktiviert.

 

Zielkonflikt zwischen sieve und push-imap

Quasi als Schlussbemerkung hier, warum ich nach erfolgreicher Migration, upgrades, Konfiguration doch nicht ganz zufrieden wurde:

  • sieve unterstuetzt nun serverseitig mein Mail-Ablage-Modell eines weitverzweigten hierarchischen Ordnerbaums mit deutlich > 100 systematisch/thematischen Ordnern. Ich kann von verschiedenen Orten (desktop, smartPhone, fremder Rechner) und MUA (ThunderBird, K-9, WebMail) darauf zugreifen und finde alles sortiert.
  • imap-push zwischen dovecot (2.0) und k-9 funzt an sich auch wunderbar und mit dem auf 24//29 Minuten gestreckten Refresh-Interval auch halbwegs batterieschonend.
  • Aber: imap-push hält je "push-aktivem" Ordner eine imap-idle - Verbindung offen. Ein anderes Model (nur eine Verbindung zwischen Client und Server bleibt idle offen, notify übergibt den Pfad zum aktualisierten Ordner) ist in der Mache, aber derzeit eben Zukunftsmusik. Das heisst konkret: mit 2, 3, 5 aktiven Ordnern ist alles bene, mit 127 hängt und klemmt es an allen Enden.
  • mein Mail-Ablage-Modell dient dem Zweck, deduktiv/systematisch alte Mails wiederzufinden, imap-push dient dem Zweck, neue Mails sofort annonciert zu bekommen. Meine Wunschvorstellung war, dass k-9 und ThunderBird mir '''pling!''' sofort die neue Mail an ihrem systematischen Ort vor die Nase halten. Mit dem derzeitigen Stand der Protokolle geht das (bei vertretbarem Energieaufwand des smartPhone) aber nicht zusammen.
  • meine Loesung ist dafür bis auf weiteres:
    mobil: je ein account je Nutzung
    .
    • Ein Mail-account hält die hierarchische Ordnerliste, hier gibt es kein imap-push und keine regelmässige Synchronisierung, aktualisiert wird also nur bei Zugriff, und nur auf dem je gewünschten Pfad.
    • Ein zweiter Mail-Account bekommt per .forward die selben neuen Mails zugestellt, alles unsortiert in die INBOX. Push macht sein Ding und das macht es gut. Wenn ich wirklich zu der neuen Mail den Kontext der vorigen brauche, kann ich ja auf dem anderen Konto nachsehen.



(Page 1 of 1, totaling 2 entries)