move yield_chunks to common.py
[~helmut/crossqa.git] / build.py
1 #!/usr/bin/python3
2
3 import collections
4 import contextlib
5 import datetime
6 import lzma
7 import os.path
8 import sqlite3
9 import subprocess
10
11 from common import decompress_stream, yield_lines, yield_chunks
12
13 def scan_log_status(filelike):
14     it = yield_chunks(filelike)
15     it = decompress_stream(it, lzma.LZMADecompressor())
16     it = yield_lines(it)
17     last_lines = collections.deque(it, 25)
18     status = [l.split(b':', 1)[1].strip()
19               for l in last_lines if l.startswith(b"Status:")]
20     if status:
21         return status[0].decode("ascii")
22     return "unknown"
23
24 def do_build(source, version, architecture):
25     now = datetime.datetime.utcnow()
26     logtarget = "%s_%s_%s_%s.log.xz" % (source, version, architecture,
27                                         now.strftime("%Y%m%d%H%M%S"))
28     cmdline = ["ssh", "gcc131", "sh", "/dev/stdin", architecture,
29                "%s_%s" % (source, version)]
30     with open(os.path.join("logs", logtarget), "w+b") as output:
31         with open("build.sh", "rb") as instructions:
32             code = subprocess.call(cmdline, stdin=instructions, stdout=output)
33         output.seek(0)
34         status = scan_log_status(output)
35         print("status %s code %d" % (status, code))
36     return (now, code == 0, logtarget, status == "given-back")
37
38 def main():
39     db = sqlite3.connect("db", detect_types=sqlite3.PARSE_DECLTYPES)
40     with contextlib.closing(db.cursor()) as cur:
41         cur.execute("SELECT source, version, depstate.architecture FROM depstate JOIN depcheck ON depstate.architecture = depcheck.architecture WHERE satisfiable = 1 AND giveback = 0 ORDER BY random() LIMIT 1;")
42         source, version, architecture = cur.fetchone()
43     print("building %s_%s for %s" % (source, version, architecture))
44     timestamp, success, filename, giveback = do_build(source, version, architecture)
45     with contextlib.closing(db.cursor()) as cur:
46         cur.execute("INSERT INTO builds (source, version, architecture, success, starttime, filename) VALUES (?, ?, ?, ?, ?, ?);",
47                     (source, version, architecture, success, timestamp,
48                      filename))
49         if giveback:
50             cur.execute("UPDATE depcheck SET giveback = 1 WHERE architecture = ?;",
51                         (architecture,))
52     db.commit()
53
54 if __name__ == "__main__":
55     main()