Datasets:

Denis641

/

AdvTestNegatives

like 0

[ "def", "clean_restricted_chars", "(", "path", ",", "restricted_chars", "=", "restricted_chars", ")", ":", "for", "character", "in", "restricted_chars", ":", "path", "=", "path", ".", "replace", "(", "character", ",", "'_'", ")", "return", "path" ]

[ "async", "def", "expand", "(", "self", ",", "request", ":", "Request", ",", "layer", ":", "BaseLayer", ")", ":", "if", "isinstance", "(", "layer", ",", "lyr", ".", "RawText", ")", ":", "t", "=", "self", ".", "reading_time", "(", "layer", ".", "text", ")", "yield", "layer", "yield", "lyr", ".", "Sleep", "(", "t", ")", "elif", "isinstance", "(", "layer", ",", "lyr", ".", "MultiText", ")", ":", "texts", "=", "await", "render", "(", "layer", ".", "text", ",", "request", ",", "True", ")", "for", "text", "in", "texts", ":", "t", "=", "self", ".", "reading_time", "(", "text", ")", "yield", "lyr", ".", "RawText", "(", "text", ")", "yield", "lyr", ".", "Sleep", "(", "t", ")", "elif", "isinstance", "(", "layer", ",", "lyr", ".", "Text", ")", ":", "text", "=", "await", "render", "(", "layer", ".", "text", ",", "request", ")", "t", "=", "self", ".", "reading_time", "(", "text", ")", "yield", "lyr", ".", "RawText", "(", "text", ")", "yield", "lyr", ".", "Sleep", "(", "t", ")", "else", ":", "yield", "layer" ]

[ "def", "add_cookie_header", "(", "self", ",", "request", ",", "referrer_host", "=", "None", ")", ":", "new_request", "=", "convert_http_request", "(", "request", ",", "referrer_host", ")", "self", ".", "_cookie_jar", ".", "add_cookie_header", "(", "new_request", ")", "request", ".", "fields", ".", "clear", "(", ")", "for", "name", ",", "value", "in", "new_request", ".", "header_items", "(", ")", ":", "request", ".", "fields", ".", "add", "(", "name", ",", "value", ")" ]

[ "def", "_strip_colors", "(", "self", ",", "message", ":", "str", ")", "->", "str", ":", "for", "c", "in", "self", ".", "COLORS", ":", "message", "=", "message", ".", "replace", "(", "c", ",", "\"\"", ")", "return", "message" ]

[ "def", "matchi", "(", "string", ",", "templ", ",", "wstr", ",", "wchr", ")", ":", "string", "=", "stypes", ".", "stringToCharP", "(", "string", ")", "templ", "=", "stypes", ".", "stringToCharP", "(", "templ", ")", "wstr", "=", "ctypes", ".", "c_char", "(", "wstr", ".", "encode", "(", "encoding", "=", "'UTF-8'", ")", ")", "wchr", "=", "ctypes", ".", "c_char", "(", "wchr", ".", "encode", "(", "encoding", "=", "'UTF-8'", ")", ")", "return", "bool", "(", "libspice", ".", "matchi_c", "(", "string", ",", "templ", ",", "wstr", ",", "wchr", ")", ")" ]

[ "def", "get_color_cycle", "(", "n", ",", "cmap", "=", "\"rainbow\"", ",", "rotations", "=", "3", ")", ":", "cmap", "=", "colormaps", "[", "cmap", "]", "if", "np", ".", "mod", "(", "n", ",", "rotations", ")", "==", "0", ":", "per", "=", "np", ".", "floor_divide", "(", "n", ",", "rotations", ")", "else", ":", "per", "=", "np", ".", "floor_divide", "(", "n", ",", "rotations", ")", "+", "1", "vals", "=", "list", "(", "np", ".", "linspace", "(", "0", ",", "1", ",", "per", ")", ")", "vals", "=", "vals", "*", "rotations", "vals", "=", "vals", "[", ":", "n", "]", "out", "=", "cmap", "(", "vals", ")", "return", "out" ]

[ "def", "save_to_file", "(", "self", ",", "filename", ",", "remap_dim0", "=", "None", ",", "remap_dim1", "=", "None", ")", ":", "# rows - first index", "# columns - second index", "with", "open", "(", "filename", ",", "'w'", ")", "as", "fobj", ":", "columns", "=", "list", "(", "sorted", "(", "self", ".", "_dim1", ")", ")", "for", "col", "in", "columns", ":", "fobj", ".", "write", "(", "','", ")", "fobj", ".", "write", "(", "str", "(", "remap_dim1", "[", "col", "]", "if", "remap_dim1", "else", "col", ")", ")", "fobj", ".", "write", "(", "'\\n'", ")", "for", "row", "in", "sorted", "(", "self", ".", "_dim0", ")", ":", "fobj", ".", "write", "(", "str", "(", "remap_dim0", "[", "row", "]", "if", "remap_dim0", "else", "row", ")", ")", "for", "col", "in", "columns", ":", "fobj", ".", "write", "(", "','", ")", "fobj", ".", "write", "(", "str", "(", "self", "[", "row", ",", "col", "]", ")", ")", "fobj", ".", "write", "(", "'\\n'", ")" ]

[ "def", "load_files", "(", "self", ",", "path", ")", ":", "if", "self", ".", "verbose", "==", "2", ":", "print", "(", "\"Indexing {}\"", ".", "format", "(", "path", ")", ")", "for", "filename", "in", "os", ".", "listdir", "(", "path", ")", ":", "file_path", "=", "path", "+", "\"/\"", "+", "filename", "if", "os", ".", "path", ".", "isdir", "(", "file_path", ")", ":", "self", ".", "load_files", "(", "file_path", ")", "elif", "filename", ".", "endswith", "(", "\".yaml\"", ")", "or", "filename", ".", "endswith", "(", "\".yml\"", ")", ":", "self", ".", "unfold_yaml", "(", "file_path", ")" ]

[ "def", "restrict_input_to_index", "(", "df_or_dict", ",", "column_id", ",", "index", ")", ":", "if", "isinstance", "(", "df_or_dict", ",", "pd", ".", "DataFrame", ")", ":", "df_or_dict_restricted", "=", "df_or_dict", "[", "df_or_dict", "[", "column_id", "]", ".", "isin", "(", "index", ")", "]", "elif", "isinstance", "(", "df_or_dict", ",", "dict", ")", ":", "df_or_dict_restricted", "=", "{", "kind", ":", "df", "[", "df", "[", "column_id", "]", ".", "isin", "(", "index", ")", "]", "for", "kind", ",", "df", "in", "df_or_dict", ".", "items", "(", ")", "}", "else", ":", "raise", "TypeError", "(", "\"df_or_dict should be of type dict or pandas.DataFrame\"", ")", "return", "df_or_dict_restricted" ]

[ "def", "SetConsoleTextAttribute", "(", "stream_id", ",", "attrs", ")", ":", "handle", "=", "handles", "[", "stream_id", "]", "return", "windll", ".", "kernel32", ".", "SetConsoleTextAttribute", "(", "handle", ",", "attrs", ")" ]

[ "def", "img2code", "(", "self", ",", "key", ",", "img", ")", ":", "code_template", "=", "\"wx.ImageFromData({width}, {height}, \"", "+", "\"bz2.decompress(base64.b64decode('{data}'))).ConvertToBitmap()\"", "code_alpha_template", "=", "\"wx.ImageFromDataWithAlpha({width}, {height}, \"", "+", "\"bz2.decompress(base64.b64decode('{data}')), \"", "+", "\"bz2.decompress(base64.b64decode('{alpha}'))).ConvertToBitmap()\"", "data", "=", "base64", ".", "b64encode", "(", "bz2", ".", "compress", "(", "img", ".", "GetData", "(", ")", ",", "9", ")", ")", "if", "img", ".", "HasAlpha", "(", ")", ":", "alpha", "=", "base64", ".", "b64encode", "(", "bz2", ".", "compress", "(", "img", ".", "GetAlphaData", "(", ")", ",", "9", ")", ")", "code_str", "=", "code_alpha_template", ".", "format", "(", "width", "=", "img", ".", "GetWidth", "(", ")", ",", "height", "=", "img", ".", "GetHeight", "(", ")", ",", "data", "=", "data", ",", "alpha", "=", "alpha", ")", "else", ":", "code_str", "=", "code_template", ".", "format", "(", "width", "=", "img", ".", "GetWidth", "(", ")", ",", "height", "=", "img", ".", "GetHeight", "(", ")", ",", "data", "=", "data", ")", "return", "code_str" ]

[ "def", "AuthorizingClient", "(", "domain", ",", "auth", ",", "request_encoder", ",", "response_decoder", ",", "user_agent", "=", "None", ")", ":", "http_transport", "=", "transport", ".", "HttpTransport", "(", "api_url", "(", "domain", ")", ",", "build_headers", "(", "auth", ",", "user_agent", ")", ")", "return", "client", ".", "Client", "(", "request_encoder", ",", "http_transport", ",", "response_decoder", ")" ]

[ "def", "fill_inbuffer", "(", "self", ")", ":", "if", "not", "self", ".", "connection", ":", "raise", "OmapiError", "(", "\"not connected\"", ")", "try", ":", "data", "=", "self", ".", "connection", ".", "recv", "(", "2048", ")", "except", "socket", ".", "error", ":", "self", ".", "close", "(", ")", "raise", "if", "not", "data", ":", "self", ".", "close", "(", ")", "raise", "OmapiError", "(", "\"connection closed\"", ")", "try", ":", "self", ".", "protocol", ".", "data_received", "(", "data", ")", "except", "OmapiSizeLimitError", ":", "self", ".", "close", "(", ")", "raise" ]

[ "def", "load_toml_rest_api_config", "(", "filename", ")", ":", "if", "not", "os", ".", "path", ".", "exists", "(", "filename", ")", ":", "LOGGER", ".", "info", "(", "\"Skipping rest api loading from non-existent config file: %s\"", ",", "filename", ")", "return", "RestApiConfig", "(", ")", "LOGGER", ".", "info", "(", "\"Loading rest api information from config: %s\"", ",", "filename", ")", "try", ":", "with", "open", "(", "filename", ")", "as", "fd", ":", "raw_config", "=", "fd", ".", "read", "(", ")", "except", "IOError", "as", "e", ":", "raise", "RestApiConfigurationError", "(", "\"Unable to load rest api configuration file: {}\"", ".", "format", "(", "str", "(", "e", ")", ")", ")", "toml_config", "=", "toml", ".", "loads", "(", "raw_config", ")", "invalid_keys", "=", "set", "(", "toml_config", ".", "keys", "(", ")", ")", ".", "difference", "(", "[", "'bind'", ",", "'connect'", ",", "'timeout'", ",", "'opentsdb_db'", ",", "'opentsdb_url'", ",", "'opentsdb_username'", ",", "'opentsdb_password'", ",", "'client_max_size'", "]", ")", "if", "invalid_keys", ":", "raise", "RestApiConfigurationError", "(", "\"Invalid keys in rest api config: {}\"", ".", "format", "(", "\", \"", ".", "join", "(", "sorted", "(", "list", "(", "invalid_keys", ")", ")", ")", ")", ")", "config", "=", "RestApiConfig", "(", "bind", "=", "toml_config", ".", "get", "(", "\"bind\"", ",", "None", ")", ",", "connect", "=", "toml_config", ".", "get", "(", "'connect'", ",", "None", ")", ",", "timeout", "=", "toml_config", ".", "get", "(", "'timeout'", ",", "None", ")", ",", "opentsdb_url", "=", "toml_config", ".", "get", "(", "'opentsdb_url'", ",", "None", ")", ",", "opentsdb_db", "=", "toml_config", ".", "get", "(", "'opentsdb_db'", ",", "None", ")", ",", "opentsdb_username", "=", "toml_config", ".", "get", "(", "'opentsdb_username'", ",", "None", ")", ",", "opentsdb_password", "=", "toml_config", ".", "get", "(", "'opentsdb_password'", ",", "None", ")", ",", "client_max_size", "=", "toml_config", ".", "get", "(", "'client_max_size'", ",", "None", ")", ")", "return", "config" ]

[ "def", "load_toml_rest_api_config", "(", "filename", ")", ":", "if", "not", "os", ".", "path", ".", "exists", "(", "filename", ")", ":", "LOGGER", ".", "info", "(", "\"Skipping rest api loading from non-existent config file: %s\"", ",", "filename", ")", "return", "RestApiConfig", "(", ")", "LOGGER", ".", "info", "(", "\"Loading rest api information from config: %s\"", ",", "filename", ")", "try", ":", "with", "open", "(", "filename", ")", "as", "fd", ":", "raw_config", "=", "fd", ".", "read", "(", ")", "except", "IOError", "as", "e", ":", "raise", "RestApiConfigurationError", "(", "\"Unable to load rest api configuration file: {}\"", ".", "format", "(", "str", "(", "e", ")", ")", ")", "toml_config", "=", "toml", ".", "loads", "(", "raw_config", ")", "invalid_keys", "=", "set", "(", "toml_config", ".", "keys", "(", ")", ")", ".", "difference", "(", "[", "'bind'", ",", "'connect'", ",", "'timeout'", ",", "'opentsdb_db'", ",", "'opentsdb_url'", ",", "'opentsdb_username'", ",", "'opentsdb_password'", ",", "'client_max_size'", "]", ")", "if", "invalid_keys", ":", "raise", "RestApiConfigurationError", "(", "\"Invalid keys in rest api config: {}\"", ".", "format", "(", "\", \"", ".", "join", "(", "sorted", "(", "list", "(", "invalid_keys", ")", ")", ")", ")", ")", "config", "=", "RestApiConfig", "(", "bind", "=", "toml_config", ".", "get", "(", "\"bind\"", ",", "None", ")", ",", "connect", "=", "toml_config", ".", "get", "(", "'connect'", ",", "None", ")", ",", "timeout", "=", "toml_config", ".", "get", "(", "'timeout'", ",", "None", ")", ",", "opentsdb_url", "=", "toml_config", ".", "get", "(", "'opentsdb_url'", ",", "None", ")", ",", "opentsdb_db", "=", "toml_config", ".", "get", "(", "'opentsdb_db'", ",", "None", ")", ",", "opentsdb_username", "=", "toml_config", ".", "get", "(", "'opentsdb_username'", ",", "None", ")", ",", "opentsdb_password", "=", "toml_config", ".", "get", "(", "'opentsdb_password'", ",", "None", ")", ",", "client_max_size", "=", "toml_config", ".", "get", "(", "'client_max_size'", ",", "None", ")", ")", "return", "config" ]

[ "def", "win32_refresh_window", "(", "cls", ")", ":", "# Get console handle", "handle", "=", "windll", ".", "kernel32", ".", "GetConsoleWindow", "(", ")", "RDW_INVALIDATE", "=", "0x0001", "windll", ".", "user32", ".", "RedrawWindow", "(", "handle", ",", "None", ",", "None", ",", "c_uint", "(", "RDW_INVALIDATE", ")", ")" ]

[ "def", "communityvisibilitystate", "(", "self", ")", ":", "if", "self", ".", "_communityvisibilitystate", "==", "None", ":", "return", "None", "elif", "self", ".", "_communityvisibilitystate", "in", "self", ".", "VisibilityState", ":", "return", "self", ".", "VisibilityState", "[", "self", ".", "_communityvisibilitystate", "]", "else", ":", "#Invalid State", "return", "None" ]

[ "def", "random_connection", "(", "self", ")", ":", "# While at the moment there's no need for this to be a context manager", "# per se, I would like to use that interface since I anticipate", "# adding some wrapping around it at some point.", "yield", "random", ".", "choice", "(", "[", "conn", "for", "conn", "in", "self", ".", "connections", "(", ")", "if", "conn", ".", "alive", "(", ")", "]", ")" ]

[ "def", "clean_tenant_url", "(", "url_string", ")", ":", "if", "hasattr", "(", "settings", ",", "'PUBLIC_SCHEMA_URLCONF'", ")", ":", "if", "(", "settings", ".", "PUBLIC_SCHEMA_URLCONF", "and", "url_string", ".", "startswith", "(", "settings", ".", "PUBLIC_SCHEMA_URLCONF", ")", ")", ":", "url_string", "=", "url_string", "[", "len", "(", "settings", ".", "PUBLIC_SCHEMA_URLCONF", ")", ":", "]", "return", "url_string" ]

[ "def", "ensure_segment_table", "(", "connection", ")", ":", "count", "=", "connection", ".", "cursor", "(", ")", ".", "execute", "(", "\"SELECT count(*) FROM sqlite_master WHERE name='segment'\"", ")", ".", "fetchone", "(", ")", "[", "0", "]", "if", "count", "==", "0", ":", "print", ">>", "sys", ".", "stderr", ",", "\"WARNING: None of the loaded files contain a segment table\"", "theClass", "=", "lsctables", ".", "TableByName", "[", "'segment'", "]", "statement", "=", "\"CREATE TABLE IF NOT EXISTS segment (\"", "+", "\", \"", ".", "join", "(", "map", "(", "lambda", "key", ":", "\"%s %s\"", "%", "(", "key", ",", "ligolwtypes", ".", "ToSQLiteType", "[", "theClass", ".", "validcolumns", "[", "key", "]", "]", ")", ",", "theClass", ".", "validcolumns", ")", ")", "+", "\")\"", "connection", ".", "cursor", "(", ")", ".", "execute", "(", "statement", ")" ]

[ "def", "access_token", "(", "self", ",", "cookie", ")", ":", "if", "(", "cookie", ")", ":", "token", "=", "self", ".", "_generate_random_string", "(", "self", ".", "access_tokens", ")", "self", ".", "access_tokens", "[", "token", "]", "=", "(", "cookie", ",", "int", "(", "time", ".", "time", "(", ")", ")", ")", "return", "token", "else", ":", "return", "None" ]

[ "def", "get_product_info", "(", "self", ",", "apps", "=", "[", "]", ",", "packages", "=", "[", "]", ",", "timeout", "=", "15", ")", ":", "if", "not", "apps", "and", "not", "packages", ":", "return", "message", "=", "MsgProto", "(", "EMsg", ".", "ClientPICSProductInfoRequest", ")", "for", "app", "in", "apps", ":", "app_info", "=", "message", ".", "body", ".", "apps", ".", "add", "(", ")", "app_info", ".", "only_public", "=", "False", "if", "isinstance", "(", "app", ",", "tuple", ")", ":", "app_info", ".", "appid", ",", "app_info", ".", "access_token", "=", "app", "else", ":", "app_info", ".", "appid", "=", "app", "for", "package", "in", "packages", ":", "package_info", "=", "message", ".", "body", ".", "packages", ".", "add", "(", ")", "if", "isinstance", "(", "package", ",", "tuple", ")", ":", "package_info", ".", "appid", ",", "package_info", ".", "access_token", "=", "package", "else", ":", "package_info", ".", "packageid", "=", "package", "message", ".", "body", ".", "meta_data_only", "=", "False", "job_id", "=", "self", ".", "send_job", "(", "message", ")", "data", "=", "dict", "(", "apps", "=", "{", "}", ",", "packages", "=", "{", "}", ")", "while", "True", ":", "chunk", "=", "self", ".", "wait_event", "(", "job_id", ",", "timeout", "=", "timeout", ")", "if", "chunk", "is", "None", ":", "return", "chunk", "=", "chunk", "[", "0", "]", ".", "body", "for", "app", "in", "chunk", ".", "apps", ":", "data", "[", "'apps'", "]", "[", "app", ".", "appid", "]", "=", "vdf", ".", "loads", "(", "app", ".", "buffer", "[", ":", "-", "1", "]", ".", "decode", "(", "'utf-8'", ",", "'replace'", ")", ")", "[", "'appinfo'", "]", "for", "pkg", "in", "chunk", ".", "packages", ":", "data", "[", "'packages'", "]", "[", "pkg", ".", "packageid", "]", "=", "vdf", ".", "binary_loads", "(", "pkg", ".", "buffer", "[", "4", ":", "]", ")", "[", "str", "(", "pkg", ".", "packageid", ")", "]", "if", "not", "chunk", ".", "response_pending", ":", "break", "return", "data" ]

[ "def", "_get_access_from_refresh", "(", "self", ")", "->", "Tuple", "[", "str", ",", "float", "]", ":", "headers", "=", "self", ".", "_get_authorization_headers", "(", ")", "data", "=", "{", "'grant_type'", ":", "'refresh_token'", ",", "'refresh_token'", ":", "self", ".", "refresh_token", "}", "r", "=", "self", ".", "session", ".", "post", "(", "self", ".", "TOKEN_URL", ",", "headers", "=", "headers", ",", "data", "=", "data", ")", "response_data", "=", "r", ".", "json", "(", ")", "return", "(", "response_data", "[", "'access_token'", "]", ",", "response_data", "[", "'expires_in'", "]", ")" ]

[ "def", "_setGroupNames", "(", "classes", ",", "classRename", ")", ":", "groups", "=", "{", "}", "for", "groupName", ",", "glyphList", "in", "classes", ".", "items", "(", ")", ":", "groupName", "=", "classRename", ".", "get", "(", "groupName", ",", "groupName", ")", "# if the glyph list has only one member,", "# the glyph name will be used in the pairs.", "# no group is needed.", "if", "len", "(", "glyphList", ")", "==", "1", ":", "continue", "groups", "[", "groupName", "]", "=", "glyphList", "return", "groups" ]

[ "def", "fetcher", "(", "date", "=", "datetime", ".", "today", "(", ")", ",", "url_pattern", "=", "URL_PATTERN", ")", ":", "api_url", "=", "url_pattern", "%", "date", ".", "strftime", "(", "'%Y-%m-%d'", ")", "headers", "=", "{", "'Referer'", ":", "'http://n.pl/program-tv'", "}", "raw_result", "=", "requests", ".", "get", "(", "api_url", ",", "headers", "=", "headers", ")", ".", "json", "(", ")", "return", "raw_result" ]

[ "def", "annotation_wrapper", "(", "annotation", ",", "doc", "=", "None", ")", ":", "def", "decorator", "(", "attr", ")", ":", "__cache__", ".", "setdefault", "(", "attr", ",", "[", "]", ")", ".", "append", "(", "annotation", ")", "# Also mark the annotation on the object itself. This will", "# fail if the object has a restrictive __slots__, but it's", "# required for some objects like Column because SQLAlchemy copies", "# them in subclasses, changing their hash and making them", "# undiscoverable via the cache.", "try", ":", "if", "not", "hasattr", "(", "attr", ",", "'_coaster_annotations'", ")", ":", "setattr", "(", "attr", ",", "'_coaster_annotations'", ",", "[", "]", ")", "attr", ".", "_coaster_annotations", ".", "append", "(", "annotation", ")", "except", "AttributeError", ":", "pass", "return", "attr", "decorator", ".", "__name__", "=", "decorator", ".", "name", "=", "annotation", "decorator", ".", "__doc__", "=", "doc", "return", "decorator" ]

[ "def", "correlator", "(", "A", ",", "B", ")", ":", "correlators", "=", "[", "]", "for", "i", "in", "range", "(", "len", "(", "A", ")", ")", ":", "correlator_row", "=", "[", "]", "for", "j", "in", "range", "(", "len", "(", "B", ")", ")", ":", "corr", "=", "0", "for", "k", "in", "range", "(", "len", "(", "A", "[", "i", "]", ")", ")", ":", "for", "l", "in", "range", "(", "len", "(", "B", "[", "j", "]", ")", ")", ":", "if", "k", "==", "l", ":", "corr", "+=", "A", "[", "i", "]", "[", "k", "]", "*", "B", "[", "j", "]", "[", "l", "]", "else", ":", "corr", "-=", "A", "[", "i", "]", "[", "k", "]", "*", "B", "[", "j", "]", "[", "l", "]", "correlator_row", ".", "append", "(", "corr", ")", "correlators", ".", "append", "(", "correlator_row", ")", "return", "correlators" ]

[ "def", "get_client_token", "(", ")", ":", "if", "getattr", "(", "settings", ",", "'NOMIS_API_CLIENT_TOKEN'", ",", "''", ")", ":", "return", "settings", ".", "NOMIS_API_CLIENT_TOKEN", "global", "client_token", "if", "not", "client_token", "or", "client_token", "[", "'expires'", "]", "and", "client_token", "[", "'expires'", "]", "-", "now", "(", ")", "<", "datetime", ".", "timedelta", "(", "days", "=", "1", ")", ":", "session", "=", "None", "try", ":", "session", "=", "api_client", ".", "get_authenticated_api_session", "(", "settings", ".", "TOKEN_RETRIEVAL_USERNAME", ",", "settings", ".", "TOKEN_RETRIEVAL_PASSWORD", ")", "client_token", "=", "session", ".", "get", "(", "'/tokens/nomis/'", ")", ".", "json", "(", ")", "except", "(", "requests", ".", "RequestException", ",", "HttpNotFoundError", ",", "ValueError", ",", "AttributeError", ")", ":", "logger", ".", "exception", "(", "'Cannot load NOMIS API client token'", ")", "return", "None", "finally", ":", "if", "session", "and", "getattr", "(", "session", ",", "'access_token'", ",", "None", ")", ":", "api_client", ".", "revoke_token", "(", "session", ".", "access_token", ")", "if", "client_token", ".", "get", "(", "'expires'", ")", ":", "client_token", "[", "'expires'", "]", "=", "parse_datetime", "(", "client_token", "[", "'expires'", "]", ")", "if", "client_token", "[", "'expires'", "]", "<", "now", "(", ")", ":", "logger", ".", "error", "(", "'NOMIS API client token from mtp-api had expired'", ")", "return", "None", "return", "client_token", "[", "'token'", "]" ]

[ "def", "queries", "(", "self", ",", "request", ")", ":", "queries", "=", "self", ".", "get_queries", "(", "request", ")", "worlds", "=", "[", "]", "with", "self", ".", "mapper", ".", "begin", "(", ")", "as", "session", ":", "for", "_", "in", "range", "(", "queries", ")", ":", "world", "=", "session", ".", "query", "(", "World", ")", ".", "get", "(", "randint", "(", "1", ",", "MAXINT", ")", ")", "worlds", ".", "append", "(", "self", ".", "get_json", "(", "world", ")", ")", "return", "Json", "(", "worlds", ")", ".", "http_response", "(", "request", ")" ]

[ "def", "search", "(", "query", ",", "team", "=", "None", ")", ":", "if", "team", "is", "None", ":", "team", "=", "_find_logged_in_team", "(", ")", "if", "team", "is", "not", "None", ":", "session", "=", "_get_session", "(", "team", ")", "response", "=", "session", ".", "get", "(", "\"%s/api/search/\"", "%", "get_registry_url", "(", "team", ")", ",", "params", "=", "dict", "(", "q", "=", "query", ")", ")", "print", "(", "\"* Packages in team %s\"", "%", "team", ")", "packages", "=", "response", ".", "json", "(", ")", "[", "'packages'", "]", "for", "pkg", "in", "packages", ":", "print", "(", "(", "\"%s:\"", "%", "team", ")", "+", "(", "\"%(owner)s/%(name)s\"", "%", "pkg", ")", ")", "if", "len", "(", "packages", ")", "==", "0", ":", "print", "(", "\"(No results)\"", ")", "print", "(", "\"* Packages in public cloud\"", ")", "public_session", "=", "_get_session", "(", "None", ")", "response", "=", "public_session", ".", "get", "(", "\"%s/api/search/\"", "%", "get_registry_url", "(", "None", ")", ",", "params", "=", "dict", "(", "q", "=", "query", ")", ")", "packages", "=", "response", ".", "json", "(", ")", "[", "'packages'", "]", "for", "pkg", "in", "packages", ":", "print", "(", "\"%(owner)s/%(name)s\"", "%", "pkg", ")", "if", "len", "(", "packages", ")", "==", "0", ":", "print", "(", "\"(No results)\"", ")" ]

[ "def", "Uptime", "(", ")", ":", "uptime", "=", "''", "try", ":", "uptime", "=", "check_output", "(", "[", "'uptime'", "]", ",", "close_fds", "=", "True", ")", ".", "decode", "(", "'utf-8'", ")", "[", "1", ":", "]", "except", "Exception", "as", "e", ":", "# pragma: no cover", "logger", ".", "error", "(", "'Could not get current uptime '", "+", "str", "(", "e", ")", ")", "return", "uptime" ]

[ "def", "stop_experiment", "(", "args", ")", ":", "experiment_id_list", "=", "parse_ids", "(", "args", ")", "if", "experiment_id_list", ":", "experiment_config", "=", "Experiments", "(", ")", "experiment_dict", "=", "experiment_config", ".", "get_all_experiments", "(", ")", "for", "experiment_id", "in", "experiment_id_list", ":", "print_normal", "(", "'Stoping experiment %s'", "%", "experiment_id", ")", "nni_config", "=", "Config", "(", "experiment_dict", "[", "experiment_id", "]", "[", "'fileName'", "]", ")", "rest_port", "=", "nni_config", ".", "get_config", "(", "'restServerPort'", ")", "rest_pid", "=", "nni_config", ".", "get_config", "(", "'restServerPid'", ")", "if", "rest_pid", ":", "kill_command", "(", "rest_pid", ")", "tensorboard_pid_list", "=", "nni_config", ".", "get_config", "(", "'tensorboardPidList'", ")", "if", "tensorboard_pid_list", ":", "for", "tensorboard_pid", "in", "tensorboard_pid_list", ":", "try", ":", "kill_command", "(", "tensorboard_pid", ")", "except", "Exception", "as", "exception", ":", "print_error", "(", "exception", ")", "nni_config", ".", "set_config", "(", "'tensorboardPidList'", ",", "[", "]", ")", "print_normal", "(", "'Stop experiment success!'", ")", "experiment_config", ".", "update_experiment", "(", "experiment_id", ",", "'status'", ",", "'STOPPED'", ")", "time_now", "=", "time", ".", "strftime", "(", "'%Y-%m-%d %H:%M:%S'", ",", "time", ".", "localtime", "(", "time", ".", "time", "(", ")", ")", ")", "experiment_config", ".", "update_experiment", "(", "experiment_id", ",", "'endTime'", ",", "str", "(", "time_now", ")", ")" ]

[ "def", "principal_axis", "(", "inertia", ")", ":", "inertia", "=", "np", ".", "asanyarray", "(", "inertia", ",", "dtype", "=", "np", ".", "float64", ")", "if", "inertia", ".", "shape", "!=", "(", "3", ",", "3", ")", ":", "raise", "ValueError", "(", "'inertia tensor must be (3,3)!'", ")", "# you could any of the following to calculate this:", "# np.linalg.svd, np.linalg.eig, np.linalg.eigh", "# moment of inertia is square symmetric matrix", "# eigh has the best numeric precision in tests", "components", ",", "vectors", "=", "np", ".", "linalg", ".", "eigh", "(", "inertia", "*", "negate_nondiagonal", ")", "# eigh returns them as column vectors, change them to row vectors", "vectors", "=", "vectors", ".", "T", "return", "components", ",", "vectors" ]

[ "def", "dnd_endDnd", "(", "self", ",", "*", "*", "kwargs", ")", "->", "SlackResponse", ":", "self", ".", "_validate_xoxp_token", "(", ")", "return", "self", ".", "api_call", "(", "\"dnd.endDnd\"", ",", "json", "=", "kwargs", ")" ]

[ "def", "_index_audio_cmu", "(", "self", ",", "basename", "=", "None", ",", "replace_already_indexed", "=", "False", ")", ":", "self", ".", "_prepare_audio", "(", "basename", "=", "basename", ",", "replace_already_indexed", "=", "replace_already_indexed", ")", "for", "staging_audio_basename", "in", "self", ".", "_list_audio_files", "(", "sub_dir", "=", "\"staging\"", ")", ":", "original_audio_name", "=", "''", ".", "join", "(", "staging_audio_basename", ".", "split", "(", "'.'", ")", "[", ":", "-", "1", "]", ")", "[", ":", "-", "3", "]", "pocketsphinx_command", "=", "''", ".", "join", "(", "[", "\"pocketsphinx_continuous\"", ",", "\"-infile\"", ",", "str", "(", "\"{}/staging/{}\"", ".", "format", "(", "self", ".", "src_dir", ",", "staging_audio_basename", ")", ")", ",", "\"-time\"", ",", "\"yes\"", ",", "\"-logfn\"", ",", "\"/dev/null\"", "]", ")", "try", ":", "if", "self", ".", "get_verbosity", "(", ")", ":", "print", "(", "\"Now indexing {}\"", ".", "format", "(", "staging_audio_basename", ")", ")", "output", "=", "subprocess", ".", "check_output", "(", "[", "\"pocketsphinx_continuous\"", ",", "\"-infile\"", ",", "str", "(", "\"{}/staging/{}\"", ".", "format", "(", "self", ".", "src_dir", ",", "staging_audio_basename", ")", ")", ",", "\"-time\"", ",", "\"yes\"", ",", "\"-logfn\"", ",", "\"/dev/null\"", "]", ",", "universal_newlines", "=", "True", ")", ".", "split", "(", "'\\n'", ")", "str_timestamps_with_sil_conf", "=", "list", "(", "map", "(", "lambda", "x", ":", "x", ".", "split", "(", "\" \"", ")", ",", "filter", "(", "None", ",", "output", "[", "1", ":", "]", ")", ")", ")", "# Timestamps are putted in a list of a single element. To match", "# Watson's output.", "self", ".", "__timestamps_unregulated", "[", "original_audio_name", "+", "\".wav\"", "]", "=", "[", "(", "self", ".", "_timestamp_extractor_cmu", "(", "staging_audio_basename", ",", "str_timestamps_with_sil_conf", ")", ")", "]", "if", "self", ".", "get_verbosity", "(", ")", ":", "print", "(", "\"Done indexing {}\"", ".", "format", "(", "staging_audio_basename", ")", ")", "except", "OSError", "as", "e", ":", "if", "self", ".", "get_verbosity", "(", ")", ":", "print", "(", "e", ",", "\"The command was: {}\"", ".", "format", "(", "pocketsphinx_command", ")", ")", "self", ".", "__errors", "[", "(", "time", "(", ")", ",", "staging_audio_basename", ")", "]", "=", "e", "self", ".", "_timestamp_regulator", "(", ")", "if", "self", ".", "get_verbosity", "(", ")", ":", "print", "(", "\"Finished indexing procedure\"", ")" ]

[ "def", "_index_audio_cmu", "(", "self", ",", "basename", "=", "None", ",", "replace_already_indexed", "=", "False", ")", ":", "self", ".", "_prepare_audio", "(", "basename", "=", "basename", ",", "replace_already_indexed", "=", "replace_already_indexed", ")", "for", "staging_audio_basename", "in", "self", ".", "_list_audio_files", "(", "sub_dir", "=", "\"staging\"", ")", ":", "original_audio_name", "=", "''", ".", "join", "(", "staging_audio_basename", ".", "split", "(", "'.'", ")", "[", ":", "-", "1", "]", ")", "[", ":", "-", "3", "]", "pocketsphinx_command", "=", "''", ".", "join", "(", "[", "\"pocketsphinx_continuous\"", ",", "\"-infile\"", ",", "str", "(", "\"{}/staging/{}\"", ".", "format", "(", "self", ".", "src_dir", ",", "staging_audio_basename", ")", ")", ",", "\"-time\"", ",", "\"yes\"", ",", "\"-logfn\"", ",", "\"/dev/null\"", "]", ")", "try", ":", "if", "self", ".", "get_verbosity", "(", ")", ":", "print", "(", "\"Now indexing {}\"", ".", "format", "(", "staging_audio_basename", ")", ")", "output", "=", "subprocess", ".", "check_output", "(", "[", "\"pocketsphinx_continuous\"", ",", "\"-infile\"", ",", "str", "(", "\"{}/staging/{}\"", ".", "format", "(", "self", ".", "src_dir", ",", "staging_audio_basename", ")", ")", ",", "\"-time\"", ",", "\"yes\"", ",", "\"-logfn\"", ",", "\"/dev/null\"", "]", ",", "universal_newlines", "=", "True", ")", ".", "split", "(", "'\\n'", ")", "str_timestamps_with_sil_conf", "=", "list", "(", "map", "(", "lambda", "x", ":", "x", ".", "split", "(", "\" \"", ")", ",", "filter", "(", "None", ",", "output", "[", "1", ":", "]", ")", ")", ")", "# Timestamps are putted in a list of a single element. To match", "# Watson's output.", "self", ".", "__timestamps_unregulated", "[", "original_audio_name", "+", "\".wav\"", "]", "=", "[", "(", "self", ".", "_timestamp_extractor_cmu", "(", "staging_audio_basename", ",", "str_timestamps_with_sil_conf", ")", ")", "]", "if", "self", ".", "get_verbosity", "(", ")", ":", "print", "(", "\"Done indexing {}\"", ".", "format", "(", "staging_audio_basename", ")", ")", "except", "OSError", "as", "e", ":", "if", "self", ".", "get_verbosity", "(", ")", ":", "print", "(", "e", ",", "\"The command was: {}\"", ".", "format", "(", "pocketsphinx_command", ")", ")", "self", ".", "__errors", "[", "(", "time", "(", ")", ",", "staging_audio_basename", ")", "]", "=", "e", "self", ".", "_timestamp_regulator", "(", ")", "if", "self", ".", "get_verbosity", "(", ")", ":", "print", "(", "\"Finished indexing procedure\"", ")" ]

[ "def", "upload_cbn_dir", "(", "dir_path", ",", "manager", ")", ":", "t", "=", "time", ".", "time", "(", ")", "for", "jfg_path", "in", "os", ".", "listdir", "(", "dir_path", ")", ":", "if", "not", "jfg_path", ".", "endswith", "(", "'.jgf'", ")", ":", "continue", "path", "=", "os", ".", "path", ".", "join", "(", "dir_path", ",", "jfg_path", ")", "log", ".", "info", "(", "'opening %s'", ",", "path", ")", "with", "open", "(", "path", ")", "as", "f", ":", "cbn_jgif_dict", "=", "json", ".", "load", "(", "f", ")", "graph", "=", "pybel", ".", "from_cbn_jgif", "(", "cbn_jgif_dict", ")", "out_path", "=", "os", ".", "path", ".", "join", "(", "dir_path", ",", "jfg_path", ".", "replace", "(", "'.jgf'", ",", "'.bel'", ")", ")", "with", "open", "(", "out_path", ",", "'w'", ")", "as", "o", ":", "pybel", ".", "to_bel", "(", "graph", ",", "o", ")", "strip_annotations", "(", "graph", ")", "enrich_pubmed_citations", "(", "manager", "=", "manager", ",", "graph", "=", "graph", ")", "pybel", ".", "to_database", "(", "graph", ",", "manager", "=", "manager", ")", "log", ".", "info", "(", "''", ")", "log", ".", "info", "(", "'done in %.2f'", ",", "time", ".", "time", "(", ")", "-", "t", ")" ]

[ "def", "insert", "(", "self", ",", "storagemodel", ")", "->", "StorageTableModel", ":", "modeldefinition", "=", "self", ".", "getmodeldefinition", "(", "storagemodel", ",", "True", ")", "try", ":", "modeldefinition", "[", "'tableservice'", "]", ".", "insert_or_replace_entity", "(", "modeldefinition", "[", "'tablename'", "]", ",", "storagemodel", ".", "entity", "(", ")", ")", "storagemodel", ".", "_exists", "=", "True", "except", "AzureMissingResourceHttpError", "as", "e", ":", "storagemodel", ".", "_exists", "=", "False", "log", ".", "debug", "(", "'can not insert or replace table entity: Table {}, PartitionKey {}, RowKey {} because {!s}'", ".", "format", "(", "modeldefinition", "[", "'tablename'", "]", ",", "storagemodel", ".", "getPartitionKey", "(", ")", ",", "storagemodel", ".", "getRowKey", "(", ")", ",", "e", ")", ")", "except", "Exception", "as", "e", ":", "storagemodel", ".", "_exists", "=", "False", "msg", "=", "'can not insert or replace table entity: Table {}, PartitionKey {}, RowKey {} because {!s}'", ".", "format", "(", "modeldefinition", "[", "'tablename'", "]", ",", "storagemodel", ".", "PartitionKey", ",", "storagemodel", ".", "RowKey", ",", "e", ")", "raise", "AzureStorageWrapException", "(", "msg", "=", "msg", ")", "finally", ":", "return", "storagemodel" ]

[ "def", "read", "(", "self", ")", ":", "line", "=", "self", ".", "trace_file", ".", "readline", "(", ")", "if", "line", "==", "''", ":", "if", "self", ".", "loop", ":", "self", ".", "_reopen_file", "(", ")", "else", ":", "self", ".", "trace_file", ".", "close", "(", ")", "self", ".", "trace_file", "=", "None", "raise", "DataSourceError", "(", ")", "message", "=", "JsonFormatter", ".", "deserialize", "(", "line", ")", "timestamp", "=", "message", ".", "get", "(", "'timestamp'", ",", "None", ")", "if", "self", ".", "realtime", "and", "timestamp", "is", "not", "None", ":", "self", ".", "_store_timestamp", "(", "timestamp", ")", "self", ".", "_wait", "(", "self", ".", "starting_time", ",", "self", ".", "first_timestamp", ",", "timestamp", ")", "return", "line", "+", "\"\\x00\"" ]

[ "def", "benchmark_backward", "(", "self", ")", ":", "try", ":", "self", ".", "_benchmark_backward", "(", ")", "except", "RuntimeError", "as", "e", ":", "# Seems like not implemented.", "print", "(", "e", ")", "self", ".", "mod_ext", ".", "synchronize", "(", "*", "*", "self", ".", "ext_kwargs", ")", "self", ".", "backward_stat", "=", "None" ]

[ "def", "login_with_token", "(", "refresh_token", ",", "team", "=", "None", ")", ":", "# Get an access token and a new refresh token.", "_check_team_id", "(", "team", ")", "auth", "=", "_update_auth", "(", "team", ",", "refresh_token", ")", "url", "=", "get_registry_url", "(", "team", ")", "contents", "=", "_load_auth", "(", ")", "contents", "[", "url", "]", "=", "auth", "_save_auth", "(", "contents", ")", "_clear_session", "(", "team", ")" ]

[ "def", "insert_seperator_results", "(", "results", ")", ":", "sepbench", "=", "BenchmarkResult", "(", "*", "[", "' '", "*", "w", "for", "w", "in", "COLUMN_WIDTHS", "]", ")", "last_bm", "=", "None", "for", "r", "in", "results", ":", "if", "last_bm", "is", "None", ":", "last_bm", "=", "r", ".", "benchmark", "elif", "last_bm", "!=", "r", ".", "benchmark", ":", "yield", "sepbench", "last_bm", "=", "r", ".", "benchmark", "yield", "r" ]

[ "def", "create_meta_main", "(", "create_path", ",", "config", ",", "role", ",", "categories", ")", ":", "meta_file", "=", "c", ".", "DEFAULT_META_FILE", ".", "replace", "(", "\"%author_name\"", ",", "config", "[", "\"author_name\"", "]", ")", "meta_file", "=", "meta_file", ".", "replace", "(", "\"%author_company\"", ",", "config", "[", "\"author_company\"", "]", ")", "meta_file", "=", "meta_file", ".", "replace", "(", "\"%license_type\"", ",", "config", "[", "\"license_type\"", "]", ")", "meta_file", "=", "meta_file", ".", "replace", "(", "\"%role_name\"", ",", "role", ")", "# Normalize the category so %categories always gets replaced.", "if", "not", "categories", ":", "categories", "=", "\"\"", "meta_file", "=", "meta_file", ".", "replace", "(", "\"%categories\"", ",", "categories", ")", "string_to_file", "(", "create_path", ",", "meta_file", ")" ]

[ "def", "get_listing", "(", "self", ")", ":", "if", "not", "hasattr", "(", "self", ",", "'listing'", ")", ":", "allEvents", "=", "self", ".", "get_allEvents", "(", ")", "openEvents", "=", "allEvents", ".", "filter", "(", "registrationOpen", "=", "True", ")", "closedEvents", "=", "allEvents", ".", "filter", "(", "registrationOpen", "=", "False", ")", "publicEvents", "=", "allEvents", ".", "instance_of", "(", "PublicEvent", ")", "allSeries", "=", "allEvents", ".", "instance_of", "(", "Series", ")", "self", ".", "listing", "=", "{", "'allEvents'", ":", "allEvents", ",", "'openEvents'", ":", "openEvents", ",", "'closedEvents'", ":", "closedEvents", ",", "'publicEvents'", ":", "publicEvents", ",", "'allSeries'", ":", "allSeries", ",", "'regOpenEvents'", ":", "publicEvents", ".", "filter", "(", "registrationOpen", "=", "True", ")", ".", "filter", "(", "Q", "(", "publicevent__category__isnull", "=", "True", ")", "|", "Q", "(", "publicevent__category__separateOnRegistrationPage", "=", "False", ")", ")", ",", "'regClosedEvents'", ":", "publicEvents", ".", "filter", "(", "registrationOpen", "=", "False", ")", ".", "filter", "(", "Q", "(", "publicevent__category__isnull", "=", "True", ")", "|", "Q", "(", "publicevent__category__separateOnRegistrationPage", "=", "False", ")", ")", ",", "'categorySeparateEvents'", ":", "publicEvents", ".", "filter", "(", "publicevent__category__separateOnRegistrationPage", "=", "True", ")", ".", "order_by", "(", "'publicevent__category'", ")", ",", "'regOpenSeries'", ":", "allSeries", ".", "filter", "(", "registrationOpen", "=", "True", ")", ".", "filter", "(", "Q", "(", "series__category__isnull", "=", "True", ")", "|", "Q", "(", "series__category__separateOnRegistrationPage", "=", "False", ")", ")", ",", "'regClosedSeries'", ":", "allSeries", ".", "filter", "(", "registrationOpen", "=", "False", ")", ".", "filter", "(", "Q", "(", "series__category__isnull", "=", "True", ")", "|", "Q", "(", "series__category__separateOnRegistrationPage", "=", "False", ")", ")", ",", "'categorySeparateSeries'", ":", "allSeries", ".", "filter", "(", "series__category__separateOnRegistrationPage", "=", "True", ")", ".", "order_by", "(", "'series__category'", ")", ",", "}", "return", "self", ".", "listing" ]

[ "def", "partition_by_vid", "(", "self", ",", "ref", ")", ":", "from", "ambry", ".", "orm", "import", "Partition", "p", "=", "self", ".", "session", ".", "query", "(", "Partition", ")", ".", "filter", "(", "Partition", ".", "vid", "==", "str", "(", "ref", ")", ")", ".", "first", "(", ")", "if", "p", ":", "return", "self", ".", "wrap_partition", "(", "p", ")", "else", ":", "return", "None" ]

[ "def", "get_listing", "(", "self", ")", ":", "if", "not", "hasattr", "(", "self", ",", "'listing'", ")", ":", "allEvents", "=", "self", ".", "get_allEvents", "(", ")", "openEvents", "=", "allEvents", ".", "filter", "(", "registrationOpen", "=", "True", ")", "closedEvents", "=", "allEvents", ".", "filter", "(", "registrationOpen", "=", "False", ")", "publicEvents", "=", "allEvents", ".", "instance_of", "(", "PublicEvent", ")", "allSeries", "=", "allEvents", ".", "instance_of", "(", "Series", ")", "self", ".", "listing", "=", "{", "'allEvents'", ":", "allEvents", ",", "'openEvents'", ":", "openEvents", ",", "'closedEvents'", ":", "closedEvents", ",", "'publicEvents'", ":", "publicEvents", ",", "'allSeries'", ":", "allSeries", ",", "'regOpenEvents'", ":", "publicEvents", ".", "filter", "(", "registrationOpen", "=", "True", ")", ".", "filter", "(", "Q", "(", "publicevent__category__isnull", "=", "True", ")", "|", "Q", "(", "publicevent__category__separateOnRegistrationPage", "=", "False", ")", ")", ",", "'regClosedEvents'", ":", "publicEvents", ".", "filter", "(", "registrationOpen", "=", "False", ")", ".", "filter", "(", "Q", "(", "publicevent__category__isnull", "=", "True", ")", "|", "Q", "(", "publicevent__category__separateOnRegistrationPage", "=", "False", ")", ")", ",", "'categorySeparateEvents'", ":", "publicEvents", ".", "filter", "(", "publicevent__category__separateOnRegistrationPage", "=", "True", ")", ".", "order_by", "(", "'publicevent__category'", ")", ",", "'regOpenSeries'", ":", "allSeries", ".", "filter", "(", "registrationOpen", "=", "True", ")", ".", "filter", "(", "Q", "(", "series__category__isnull", "=", "True", ")", "|", "Q", "(", "series__category__separateOnRegistrationPage", "=", "False", ")", ")", ",", "'regClosedSeries'", ":", "allSeries", ".", "filter", "(", "registrationOpen", "=", "False", ")", ".", "filter", "(", "Q", "(", "series__category__isnull", "=", "True", ")", "|", "Q", "(", "series__category__separateOnRegistrationPage", "=", "False", ")", ")", ",", "'categorySeparateSeries'", ":", "allSeries", ".", "filter", "(", "series__category__separateOnRegistrationPage", "=", "True", ")", ".", "order_by", "(", "'series__category'", ")", ",", "}", "return", "self", ".", "listing" ]

[ "def", "parsedate_tz", "(", "data", ")", ":", "res", "=", "_parsedate_tz", "(", "data", ")", "if", "not", "res", ":", "return", "if", "res", "[", "9", "]", "is", "None", ":", "res", "[", "9", "]", "=", "0", "return", "tuple", "(", "res", ")" ]

[ "def", "join_time_series", "(", "serieses", ",", "ignore_year", "=", "False", ",", "T_s", "=", "None", ",", "aggregator", "=", "'mean'", ")", ":", "if", "ignore_year", ":", "df", "=", "pd", ".", "DataFrame", "(", ")", "for", "name", ",", "ts", "in", "serieses", ".", "iteritems", "(", ")", ":", "# FIXME: deal with leap years", "sod", "=", "np", ".", "array", "(", "map", "(", "lambda", "x", ":", "(", "x", ".", "hour", "*", "3600", "+", "x", ".", "minute", "*", "60", "+", "x", ".", "second", ")", ",", "ts", ".", "index", ".", "time", ")", ")", "# Coerce soy to an integer so that merge/join operations identify same values", "# (floats don't equal!?)", "soy", "=", "(", "ts", ".", "index", ".", "dayofyear", "+", "366", "*", "(", "ts", ".", "index", ".", "year", "-", "ts", ".", "index", ".", "year", "[", "0", "]", ")", ")", "*", "3600", "*", "24", "+", "sod", "ts2", "=", "pd", ".", "Series", "(", "ts", ".", "values", ",", "index", "=", "soy", ")", "ts2", "=", "ts2", ".", "dropna", "(", ")", "ts2", "=", "ts2", ".", "sort_index", "(", ")", "df2", "=", "pd", ".", "DataFrame", "(", "{", "name", ":", "ts2", ".", "values", "}", ",", "index", "=", "soy", ")", "df", "=", "df", ".", "join", "(", "df2", ",", "how", "=", "'outer'", ")", "if", "T_s", "and", "aggregator", ":", "df", "=", "df", ".", "groupby", "(", "lambda", "x", ":", "int", "(", "x", "/", "float", "(", "T_s", ")", ")", ")", ".", "aggregate", "(", "dict", "(", "(", "name", ",", "aggregator", ")", "for", "name", "in", "df", ".", "columns", ")", ")", "else", ":", "df", "=", "pd", ".", "DataFrame", "(", "serieses", ")", "if", "T_s", "and", "aggregator", ":", "x0", "=", "df", ".", "index", "[", "0", "]", "df", "=", "df", ".", "groupby", "(", "lambda", "x", ":", "int", "(", "(", "x", "-", "x0", ")", ".", "total_seconds", "(", ")", "/", "float", "(", "T_s", ")", ")", ")", ".", "aggregate", "(", "dict", "(", "(", "name", ",", "aggregator", ")", "for", "name", "in", "df", ".", "columns", ")", ")", "# FIXME: convert seconds since begninning of first year back into Timestamp instances", "return", "df" ]

[ "def", "audit_customer_subscription", "(", "customer", ",", "unknown", "=", "True", ")", ":", "if", "(", "hasattr", "(", "customer", ",", "'suspended'", ")", "and", "customer", ".", "suspended", ")", ":", "result", "=", "AUDIT_RESULTS", "[", "'suspended'", "]", "else", ":", "if", "hasattr", "(", "customer", ",", "'subscription'", ")", ":", "try", ":", "result", "=", "AUDIT_RESULTS", "[", "customer", ".", "subscription", ".", "status", "]", "except", "KeyError", ",", "err", ":", "# TODO should this be a more specific exception class?", "raise", "Exception", "(", "\"Unable to locate a result set for \\\nsubscription status %s in ZEBRA_AUDIT_RESULTS\"", ")", "%", "str", "(", "err", ")", "else", ":", "result", "=", "AUDIT_RESULTS", "[", "'no_subscription'", "]", "return", "result" ]

[ "def", "create_api_call", "(", "func", ",", "settings", ")", ":", "def", "base_caller", "(", "api_call", ",", "_", ",", "*", "args", ")", ":", "\"\"\"Simply call api_call and ignore settings.\"\"\"", "return", "api_call", "(", "*", "args", ")", "def", "inner", "(", "request", ",", "options", "=", "None", ")", ":", "\"\"\"Invoke with the actual settings.\"\"\"", "this_options", "=", "_merge_options_metadata", "(", "options", ",", "settings", ")", "this_settings", "=", "settings", ".", "merge", "(", "this_options", ")", "if", "this_settings", ".", "retry", "and", "this_settings", ".", "retry", ".", "retry_codes", ":", "api_call", "=", "gax", ".", "retry", ".", "retryable", "(", "func", ",", "this_settings", ".", "retry", ",", "*", "*", "this_settings", ".", "kwargs", ")", "else", ":", "api_call", "=", "gax", ".", "retry", ".", "add_timeout_arg", "(", "func", ",", "this_settings", ".", "timeout", ",", "*", "*", "this_settings", ".", "kwargs", ")", "api_call", "=", "_catch_errors", "(", "api_call", ",", "gax", ".", "config", ".", "API_ERRORS", ")", "return", "api_caller", "(", "api_call", ",", "this_settings", ",", "request", ")", "if", "settings", ".", "page_descriptor", ":", "if", "settings", ".", "bundler", "and", "settings", ".", "bundle_descriptor", ":", "raise", "ValueError", "(", "'The API call has incompatible settings: '", "'bundling and page streaming'", ")", "api_caller", "=", "_page_streamable", "(", "settings", ".", "page_descriptor", ")", "elif", "settings", ".", "bundler", "and", "settings", ".", "bundle_descriptor", ":", "api_caller", "=", "_bundleable", "(", "settings", ".", "bundle_descriptor", ")", "else", ":", "api_caller", "=", "base_caller", "return", "inner" ]

[ "def", "_sign", "(", "translator", ",", "expr", ")", ":", "op", "=", "expr", ".", "op", "(", ")", "arg", ",", "=", "op", ".", "args", "arg_", "=", "translator", ".", "translate", "(", "arg", ")", "return", "'intDivOrZero({0}, abs({0}))'", ".", "format", "(", "arg_", ")" ]

[ "def", "enable_notebook", "(", "verbose", "=", "0", ")", ":", "libs", "=", "[", "'objexporter.js'", ",", "'ArcballControls.js'", ",", "'filesaver.js'", ",", "'base64-arraybuffer.js'", ",", "'context.js'", ",", "'chemview.js'", ",", "'three.min.js'", ",", "'jquery-ui.min.js'", ",", "'context.standalone.css'", ",", "'chemview_widget.js'", ",", "'trajectory_controls_widget.js'", ",", "\"layout_widget.js\"", ",", "\"components/jquery-fullscreen/jquery.fullscreen.js\"", ",", "'scales.js'", "]", "fns", "=", "[", "resource_filename", "(", "'chemview'", ",", "os", ".", "path", ".", "join", "(", "'static'", ",", "f", ")", ")", "for", "f", "in", "libs", "]", "[", "install_nbextension", "(", "fn", ",", "verbose", "=", "verbose", ",", "overwrite", "=", "True", ",", "user", "=", "True", ")", "for", "fn", "in", "fns", "]" ]

[ "def", "markdown", "(", "source", ":", "str", "=", "None", ",", "source_path", ":", "str", "=", "None", ",", "preserve_lines", ":", "bool", "=", "False", ",", "font_size", ":", "float", "=", "None", ",", "*", "*", "kwargs", ")", "->", "dict", ":", "environ", ".", "abort_thread", "(", ")", "library_includes", "=", "[", "]", "rendered", "=", "textwrap", ".", "dedent", "(", "templating", ".", "render_file", "(", "source_path", ",", "*", "*", "kwargs", ")", "if", "source_path", "else", "templating", ".", "render", "(", "source", "or", "''", ",", "*", "*", "kwargs", ")", ")", "if", "md", "is", "None", ":", "raise", "ImportError", "(", "'Unable to import the markdown package'", ")", "offset", "=", "0", "while", "offset", "<", "len", "(", "rendered", ")", ":", "bound_chars", "=", "'$$'", "start_index", "=", "rendered", ".", "find", "(", "bound_chars", ",", "offset", ")", "if", "start_index", "<", "0", ":", "break", "inline", "=", "rendered", "[", "start_index", "+", "2", "]", "!=", "'$'", "bound_chars", "=", "'$$'", "if", "inline", "else", "'$$$'", "end_index", "=", "rendered", ".", "find", "(", "bound_chars", ",", "start_index", "+", "len", "(", "bound_chars", ")", ")", "if", "end_index", "<", "0", ":", "break", "end_index", "+=", "len", "(", "bound_chars", ")", "chunk", "=", "rendered", "[", "start_index", ":", "end_index", "]", ".", "strip", "(", "'$'", ")", ".", "strip", "(", ")", ".", "replace", "(", "'@'", ",", "'\\\\'", ")", "if", "inline", ":", "chunk", "=", "chunk", ".", "replace", "(", "'\\\\'", ",", "'\\\\\\\\'", ")", "chunk", "=", "latex", "(", "chunk", ",", "inline", ")", "rendered", "=", "'{pre}{gap}{latex}{gap}{post}'", ".", "format", "(", "pre", "=", "rendered", "[", ":", "start_index", "]", ",", "latex", "=", "chunk", ",", "post", "=", "rendered", "[", "end_index", ":", "]", ",", "gap", "=", "''", "if", "inline", "else", "'\\n\\n'", ")", "if", "'katex'", "not", "in", "library_includes", ":", "library_includes", ".", "append", "(", "'katex'", ")", "offset", "=", "end_index", "extensions", "=", "[", "'markdown.extensions.extra'", ",", "'markdown.extensions.admonition'", ",", "'markdown.extensions.sane_lists'", ",", "'markdown.extensions.nl2br'", "if", "preserve_lines", "else", "None", "]", "body", "=", "templating", ".", "render_template", "(", "'markdown-block.html'", ",", "text", "=", "md", ".", "markdown", "(", "rendered", ",", "extensions", "=", "[", "e", "for", "e", "in", "extensions", "if", "e", "is", "not", "None", "]", ")", ",", "font_size", "=", "font_size", ")", "pattern", "=", "re", ".", "compile", "(", "'src=\"(?P<url>[^\"]+)\"'", ")", "body", "=", "pattern", ".", "sub", "(", "r'data-src=\"\\g<url>\"'", ",", "body", ")", "return", "dict", "(", "body", "=", "body", ",", "library_includes", "=", "library_includes", ",", "rendered", "=", "rendered", ")" ]

[ "def", "call_moses_detokenizer", "(", "workspace_dir", ":", "str", ",", "input_fname", ":", "str", ",", "output_fname", ":", "str", ",", "lang_code", ":", "Optional", "[", "str", "]", "=", "None", ")", ":", "detokenizer_fname", "=", "os", ".", "path", ".", "join", "(", "workspace_dir", ",", "DIR_THIRD_PARTY", ",", "MOSES_DEST", ",", "\"scripts\"", ",", "\"tokenizer\"", ",", "\"detokenizer.perl\"", ")", "with", "bin_open", "(", "input_fname", ")", "as", "inp", ",", "open", "(", "output_fname", ",", "\"wb\"", ")", "as", "out", ",", "open", "(", "os", ".", "devnull", ",", "\"wb\"", ")", "as", "devnull", ":", "command", "=", "[", "\"perl\"", ",", "detokenizer_fname", "]", "if", "lang_code", ":", "command", ".", "append", "(", "\"-l\"", ")", "command", ".", "append", "(", "lang_code", ")", "detokenizer", "=", "subprocess", ".", "Popen", "(", "command", ",", "stdin", "=", "subprocess", ".", "PIPE", ",", "stdout", "=", "subprocess", ".", "PIPE", ",", "stderr", "=", "devnull", ")", "detokenizer_thread", "=", "threading", ".", "Thread", "(", "target", "=", "copy_out", ",", "args", "=", "(", "detokenizer", ".", "stdout", ",", "out", ")", ")", "detokenizer_thread", ".", "start", "(", ")", "for", "line", "in", "inp", ":", "detokenizer", ".", "stdin", ".", "write", "(", "line", ")", "detokenizer", ".", "stdin", ".", "close", "(", ")", "detokenizer_thread", ".", "join", "(", ")", "detokenizer", ".", "wait", "(", ")" ]

[ "def", "denormalize_volume", "(", "volume", ")", ":", "id", "=", "volume", ".", "get", "(", "'id'", ",", "None", ")", "res", "=", "dict", "(", ")", "res", ".", "update", "(", "volume", "[", "'metadata'", "]", ")", "denorm_attachments", "=", "list", "(", ")", "for", "a", "in", "volume", "[", "'attachments'", "]", ":", "denorm_attachments", ".", "append", "(", "Archivant", ".", "denormalize_attachment", "(", "a", ")", ")", "res", "[", "'_attachments'", "]", "=", "denorm_attachments", "return", "id", ",", "res" ]

[ "def", "markdown", "(", "source", ":", "str", "=", "None", ",", "source_path", ":", "str", "=", "None", ",", "preserve_lines", ":", "bool", "=", "False", ",", "font_size", ":", "float", "=", "None", ",", "*", "*", "kwargs", ")", "->", "dict", ":", "environ", ".", "abort_thread", "(", ")", "library_includes", "=", "[", "]", "rendered", "=", "textwrap", ".", "dedent", "(", "templating", ".", "render_file", "(", "source_path", ",", "*", "*", "kwargs", ")", "if", "source_path", "else", "templating", ".", "render", "(", "source", "or", "''", ",", "*", "*", "kwargs", ")", ")", "if", "md", "is", "None", ":", "raise", "ImportError", "(", "'Unable to import the markdown package'", ")", "offset", "=", "0", "while", "offset", "<", "len", "(", "rendered", ")", ":", "bound_chars", "=", "'$$'", "start_index", "=", "rendered", ".", "find", "(", "bound_chars", ",", "offset", ")", "if", "start_index", "<", "0", ":", "break", "inline", "=", "rendered", "[", "start_index", "+", "2", "]", "!=", "'$'", "bound_chars", "=", "'$$'", "if", "inline", "else", "'$$$'", "end_index", "=", "rendered", ".", "find", "(", "bound_chars", ",", "start_index", "+", "len", "(", "bound_chars", ")", ")", "if", "end_index", "<", "0", ":", "break", "end_index", "+=", "len", "(", "bound_chars", ")", "chunk", "=", "rendered", "[", "start_index", ":", "end_index", "]", ".", "strip", "(", "'$'", ")", ".", "strip", "(", ")", ".", "replace", "(", "'@'", ",", "'\\\\'", ")", "if", "inline", ":", "chunk", "=", "chunk", ".", "replace", "(", "'\\\\'", ",", "'\\\\\\\\'", ")", "chunk", "=", "latex", "(", "chunk", ",", "inline", ")", "rendered", "=", "'{pre}{gap}{latex}{gap}{post}'", ".", "format", "(", "pre", "=", "rendered", "[", ":", "start_index", "]", ",", "latex", "=", "chunk", ",", "post", "=", "rendered", "[", "end_index", ":", "]", ",", "gap", "=", "''", "if", "inline", "else", "'\\n\\n'", ")", "if", "'katex'", "not", "in", "library_includes", ":", "library_includes", ".", "append", "(", "'katex'", ")", "offset", "=", "end_index", "extensions", "=", "[", "'markdown.extensions.extra'", ",", "'markdown.extensions.admonition'", ",", "'markdown.extensions.sane_lists'", ",", "'markdown.extensions.nl2br'", "if", "preserve_lines", "else", "None", "]", "body", "=", "templating", ".", "render_template", "(", "'markdown-block.html'", ",", "text", "=", "md", ".", "markdown", "(", "rendered", ",", "extensions", "=", "[", "e", "for", "e", "in", "extensions", "if", "e", "is", "not", "None", "]", ")", ",", "font_size", "=", "font_size", ")", "pattern", "=", "re", ".", "compile", "(", "'src=\"(?P<url>[^\"]+)\"'", ")", "body", "=", "pattern", ".", "sub", "(", "r'data-src=\"\\g<url>\"'", ",", "body", ")", "return", "dict", "(", "body", "=", "body", ",", "library_includes", "=", "library_includes", ",", "rendered", "=", "rendered", ")" ]

[ "def", "column", "(", "self", ",", "column", ",", "option", "=", "None", ",", "*", "*", "kw", ")", ":", "config", "=", "False", "if", "option", "==", "'type'", ":", "return", "self", ".", "_column_types", "[", "column", "]", "elif", "'type'", "in", "kw", ":", "config", "=", "True", "self", ".", "_column_types", "[", "column", "]", "=", "kw", ".", "pop", "(", "'type'", ")", "if", "kw", ":", "self", ".", "_visual_drag", ".", "column", "(", "ttk", ".", "Treeview", ".", "column", "(", "self", ",", "column", ",", "'id'", ")", ",", "option", ",", "*", "*", "kw", ")", "if", "kw", "or", "option", ":", "return", "ttk", ".", "Treeview", ".", "column", "(", "self", ",", "column", ",", "option", ",", "*", "*", "kw", ")", "elif", "not", "config", ":", "res", "=", "ttk", ".", "Treeview", ".", "column", "(", "self", ",", "column", ",", "option", ",", "*", "*", "kw", ")", "res", "[", "'type'", "]", "=", "self", ".", "_column_types", "[", "column", "]", "return", "res" ]

[ "def", "markdown", "(", "source", ":", "str", "=", "None", ",", "source_path", ":", "str", "=", "None", ",", "preserve_lines", ":", "bool", "=", "False", ",", "font_size", ":", "float", "=", "None", ",", "*", "*", "kwargs", ")", "->", "dict", ":", "environ", ".", "abort_thread", "(", ")", "library_includes", "=", "[", "]", "rendered", "=", "textwrap", ".", "dedent", "(", "templating", ".", "render_file", "(", "source_path", ",", "*", "*", "kwargs", ")", "if", "source_path", "else", "templating", ".", "render", "(", "source", "or", "''", ",", "*", "*", "kwargs", ")", ")", "if", "md", "is", "None", ":", "raise", "ImportError", "(", "'Unable to import the markdown package'", ")", "offset", "=", "0", "while", "offset", "<", "len", "(", "rendered", ")", ":", "bound_chars", "=", "'$$'", "start_index", "=", "rendered", ".", "find", "(", "bound_chars", ",", "offset", ")", "if", "start_index", "<", "0", ":", "break", "inline", "=", "rendered", "[", "start_index", "+", "2", "]", "!=", "'$'", "bound_chars", "=", "'$$'", "if", "inline", "else", "'$$$'", "end_index", "=", "rendered", ".", "find", "(", "bound_chars", ",", "start_index", "+", "len", "(", "bound_chars", ")", ")", "if", "end_index", "<", "0", ":", "break", "end_index", "+=", "len", "(", "bound_chars", ")", "chunk", "=", "rendered", "[", "start_index", ":", "end_index", "]", ".", "strip", "(", "'$'", ")", ".", "strip", "(", ")", ".", "replace", "(", "'@'", ",", "'\\\\'", ")", "if", "inline", ":", "chunk", "=", "chunk", ".", "replace", "(", "'\\\\'", ",", "'\\\\\\\\'", ")", "chunk", "=", "latex", "(", "chunk", ",", "inline", ")", "rendered", "=", "'{pre}{gap}{latex}{gap}{post}'", ".", "format", "(", "pre", "=", "rendered", "[", ":", "start_index", "]", ",", "latex", "=", "chunk", ",", "post", "=", "rendered", "[", "end_index", ":", "]", ",", "gap", "=", "''", "if", "inline", "else", "'\\n\\n'", ")", "if", "'katex'", "not", "in", "library_includes", ":", "library_includes", ".", "append", "(", "'katex'", ")", "offset", "=", "end_index", "extensions", "=", "[", "'markdown.extensions.extra'", ",", "'markdown.extensions.admonition'", ",", "'markdown.extensions.sane_lists'", ",", "'markdown.extensions.nl2br'", "if", "preserve_lines", "else", "None", "]", "body", "=", "templating", ".", "render_template", "(", "'markdown-block.html'", ",", "text", "=", "md", ".", "markdown", "(", "rendered", ",", "extensions", "=", "[", "e", "for", "e", "in", "extensions", "if", "e", "is", "not", "None", "]", ")", ",", "font_size", "=", "font_size", ")", "pattern", "=", "re", ".", "compile", "(", "'src=\"(?P<url>[^\"]+)\"'", ")", "body", "=", "pattern", ".", "sub", "(", "r'data-src=\"\\g<url>\"'", ",", "body", ")", "return", "dict", "(", "body", "=", "body", ",", "library_includes", "=", "library_includes", ",", "rendered", "=", "rendered", ")" ]

[ "def", "denormalize_volume", "(", "volume", ")", ":", "id", "=", "volume", ".", "get", "(", "'id'", ",", "None", ")", "res", "=", "dict", "(", ")", "res", ".", "update", "(", "volume", "[", "'metadata'", "]", ")", "denorm_attachments", "=", "list", "(", ")", "for", "a", "in", "volume", "[", "'attachments'", "]", ":", "denorm_attachments", ".", "append", "(", "Archivant", ".", "denormalize_attachment", "(", "a", ")", ")", "res", "[", "'_attachments'", "]", "=", "denorm_attachments", "return", "id", ",", "res" ]

[ "def", "arcball_constrain_to_axis", "(", "point", ",", "axis", ")", ":", "v", "=", "np", ".", "array", "(", "point", ",", "dtype", "=", "np", ".", "float64", ",", "copy", "=", "True", ")", "a", "=", "np", ".", "array", "(", "axis", ",", "dtype", "=", "np", ".", "float64", ",", "copy", "=", "True", ")", "v", "-=", "a", "*", "np", ".", "dot", "(", "a", ",", "v", ")", "# on plane", "n", "=", "vector_norm", "(", "v", ")", "if", "n", ">", "_EPS", ":", "if", "v", "[", "2", "]", "<", "0.0", ":", "np", ".", "negative", "(", "v", ",", "v", ")", "v", "/=", "n", "return", "v", "if", "a", "[", "2", "]", "==", "1.0", ":", "return", "np", ".", "array", "(", "[", "1.0", ",", "0.0", ",", "0.0", "]", ")", "return", "unit_vector", "(", "[", "-", "a", "[", "1", "]", ",", "a", "[", "0", "]", ",", "0.0", "]", ")" ]

[ "def", "make_entity_name", "(", "name", ")", ":", "invalid_chars", "=", "\"-=!#$%^&*[](){}/~'`<>:;\"", "for", "char", "in", "invalid_chars", ":", "name", "=", "name", ".", "replace", "(", "char", ",", "\"_\"", ")", "return", "name" ]

[ "def", "fetch_and_create_image", "(", "self", ",", "url", ",", "image_title", ")", ":", "context", "=", "{", "\"file_url\"", ":", "url", ",", "\"foreign_title\"", ":", "image_title", ",", "}", "try", ":", "image_file", "=", "requests", ".", "get", "(", "url", ")", "local_image", "=", "Image", "(", "title", "=", "image_title", ",", "file", "=", "ImageFile", "(", "BytesIO", "(", "image_file", ".", "content", ")", ",", "name", "=", "image_title", ")", ")", "local_image", ".", "save", "(", ")", "return", "(", "local_image", ",", "context", ")", "except", "Exception", "as", "e", ":", "context", ".", "update", "(", "{", "\"exception\"", ":", "e", ",", "}", ")", "raise", "ImageCreationFailed", "(", "context", ",", "None", ")" ]

[ "def", "parse_plotCorrelation", "(", "self", ")", ":", "self", ".", "deeptools_plotCorrelationData", "=", "dict", "(", ")", "for", "f", "in", "self", ".", "find_log_files", "(", "'deeptools/plotCorrelationData'", ",", "filehandles", "=", "False", ")", ":", "parsed_data", ",", "samples", "=", "self", ".", "parsePlotCorrelationData", "(", "f", ")", "for", "k", ",", "v", "in", "parsed_data", ".", "items", "(", ")", ":", "if", "k", "in", "self", ".", "deeptools_plotCorrelationData", ":", "log", ".", "warning", "(", "\"Replacing duplicate sample {}.\"", ".", "format", "(", "k", ")", ")", "self", ".", "deeptools_plotCorrelationData", "[", "k", "]", "=", "v", "if", "len", "(", "parsed_data", ")", ">", "0", ":", "self", ".", "add_data_source", "(", "f", ",", "section", "=", "'plotCorrelation'", ")", "if", "len", "(", "self", ".", "deeptools_plotCorrelationData", ")", ">", "0", ":", "config", "=", "{", "'id'", ":", "'deeptools_correlation_plot'", ",", "'title'", ":", "'deeptools: Correlation Plot'", ",", "}", "data", "=", "[", "]", "for", "s_name", "in", "samples", ":", "try", ":", "data", ".", "append", "(", "self", ".", "deeptools_plotCorrelationData", "[", "s_name", "]", ")", "except", "KeyError", ":", "pass", "if", "len", "(", "data", ")", "==", "0", ":", "log", ".", "debug", "(", "'No valid data for correlation plot'", ")", "return", "None", "self", ".", "add_section", "(", "name", "=", "\"Correlation heatmap\"", ",", "anchor", "=", "\"deeptools_correlation\"", ",", "description", "=", "\"Pairwise correlations of samples based on distribution of sequence reads\"", ",", "plot", "=", "heatmap", ".", "plot", "(", "data", ",", "samples", ",", "samples", ",", "config", ")", ")", "return", "len", "(", "self", ".", "deeptools_plotCorrelationData", ")" ]

[ "def", "unpackmar", "(", "marfile", ",", "destdir", ")", ":", "marfile", "=", "cygpath", "(", "os", ".", "path", ".", "abspath", "(", "marfile", ")", ")", "nullfd", "=", "open", "(", "os", ".", "devnull", ",", "\"w\"", ")", "try", ":", "check_call", "(", "[", "MAR", ",", "'-x'", ",", "marfile", "]", ",", "cwd", "=", "destdir", ",", "stdout", "=", "nullfd", ",", "preexec_fn", "=", "_noumask", ")", "except", "Exception", ":", "log", ".", "exception", "(", "\"Error unpacking mar file %s to %s\"", ",", "marfile", ",", "destdir", ")", "raise", "nullfd", ".", "close", "(", ")" ]

[ "def", "remove_unused_resources", "(", "issues", ",", "app_dir", ",", "ignore_layouts", ")", ":", "for", "issue", "in", "issues", ":", "filepath", "=", "os", ".", "path", ".", "join", "(", "app_dir", ",", "issue", ".", "filepath", ")", "if", "issue", ".", "remove_file", ":", "remove_resource_file", "(", "issue", ",", "filepath", ",", "ignore_layouts", ")", "else", ":", "remove_resource_value", "(", "issue", ",", "filepath", ")" ]

[ "def", "_merge_meta_data", "(", "cls", ",", "first", ":", "\"HistogramBase\"", ",", "second", ":", "\"HistogramBase\"", ")", "->", "dict", ":", "keys", "=", "set", "(", "first", ".", "_meta_data", ".", "keys", "(", ")", ")", "keys", "=", "keys", ".", "union", "(", "set", "(", "second", ".", "_meta_data", ".", "keys", "(", ")", ")", ")", "return", "{", "key", ":", "(", "first", ".", "_meta_data", ".", "get", "(", "key", ",", "None", ")", "if", "first", ".", "_meta_data", ".", "get", "(", "key", ",", "None", ")", "==", "second", ".", "_meta_data", ".", "get", "(", "key", ",", "None", ")", "else", "None", ")", "for", "key", "in", "keys", "}" ]

[ "def", "cli", "(", "file1", ",", "file2", ",", "comments", ")", "->", "int", ":", "sys", ".", "exit", "(", "compare_files", "(", "file1", ",", "file2", ",", "comments", ")", ")" ]

[ "def", "container_unfreeze", "(", "name", ",", "remote_addr", "=", "None", ",", "cert", "=", "None", ",", "key", "=", "None", ",", "verify_cert", "=", "True", ")", ":", "container", "=", "container_get", "(", "name", ",", "remote_addr", ",", "cert", ",", "key", ",", "verify_cert", ",", "_raw", "=", "True", ")", "container", ".", "unfreeze", "(", "wait", "=", "True", ")", "return", "_pylxd_model_to_dict", "(", "container", ")" ]

[ "def", "lock", "(", "self", ",", "seconds", "=", "5", ")", ":", "self", ".", "_current_application", "(", ")", ".", "lock", "(", "robot", ".", "utils", ".", "timestr_to_secs", "(", "seconds", ")", ")" ]

[ "def", "_cached_results", "(", "self", ",", "start_time", ",", "end_time", ")", ":", "cached_buckets", "=", "self", ".", "_bucket_events", "(", "self", ".", "_client", ".", "get", "(", "self", ".", "_scratch_stream", ",", "start_time", ",", "end_time", ",", "namespace", "=", "self", ".", "_scratch_namespace", ")", ")", "for", "bucket_events", "in", "cached_buckets", ":", "# If we have multiple cache entries for the same bucket, pretend", "# we have no results for that bucket.", "if", "len", "(", "bucket_events", ")", "==", "1", ":", "first_result", "=", "bucket_events", "[", "0", "]", "yield", "(", "kronos_time_to_epoch_time", "(", "first_result", "[", "TIMESTAMP_FIELD", "]", ")", ",", "first_result", "[", "QueryCache", ".", "CACHE_KEY", "]", ")" ]

[ "def", "strand", "(", "s1", ",", "s2", ")", ":", "return", "\"\"", ".", "join", "(", "map", "(", "lambda", "x", ",", "y", ":", "chr", "(", "ord", "(", "x", ")", "&", "ord", "(", "y", ")", ")", ",", "s1", ",", "s2", ")", ")" ]

[ "def", "render_field_error", "(", "self", ",", "obj_id", ",", "obj", ",", "exception", ",", "request", ")", ":", "if", "obj", "is", "None", ":", "msg", "=", "'No match for ID={0}'", ".", "format", "(", "obj_id", ")", "else", ":", "msg", "=", "unicode", "(", "exception", ")", "return", "u'<p class=\"error\">{0}</p>'", ".", "format", "(", "msg", ")" ]

[ "def", "unmount", "(", "self", ")", ":", "self", ".", "unmount_bindmounts", "(", ")", "self", ".", "unmount_mounts", "(", ")", "self", ".", "unmount_volume_groups", "(", ")", "self", ".", "unmount_loopbacks", "(", ")", "self", ".", "unmount_base_images", "(", ")", "self", ".", "clean_dirs", "(", ")" ]

[ "def", "get_context_data", "(", "self", ",", "*", "*", "kwargs", ")", ":", "context", "=", "super", "(", "BaseEntryChannel", ",", "self", ")", ".", "get_context_data", "(", "*", "*", "kwargs", ")", "context", ".", "update", "(", "{", "'query'", ":", "self", ".", "query", "}", ")", "return", "context" ]

[ "def", "get_metadata", "(", "self", ",", "digest", ",", "content", ",", "mime_type", ")", ":", "# XXX: ad-hoc for now, refactor later", "if", "mime_type", ".", "startswith", "(", "\"image/\"", ")", ":", "img", "=", "Image", ".", "open", "(", "BytesIO", "(", "content", ")", ")", "ret", "=", "{", "}", "if", "not", "hasattr", "(", "img", ",", "\"_getexif\"", ")", ":", "return", "{", "}", "info", "=", "img", ".", "_getexif", "(", ")", "if", "not", "info", ":", "return", "{", "}", "for", "tag", ",", "value", "in", "info", ".", "items", "(", ")", ":", "decoded", "=", "TAGS", ".", "get", "(", "tag", ",", "tag", ")", "ret", "[", "\"EXIF:\"", "+", "str", "(", "decoded", ")", "]", "=", "value", "return", "ret", "else", ":", "if", "mime_type", "!=", "\"application/pdf\"", ":", "content", "=", "self", ".", "to_pdf", "(", "digest", ",", "content", ",", "mime_type", ")", "with", "make_temp_file", "(", "content", ")", "as", "in_fn", ":", "try", ":", "output", "=", "subprocess", ".", "check_output", "(", "[", "\"pdfinfo\"", ",", "in_fn", "]", ")", "except", "OSError", ":", "logger", ".", "error", "(", "\"Conversion failed, probably pdfinfo is not installed\"", ")", "raise", "ret", "=", "{", "}", "for", "line", "in", "output", ".", "split", "(", "b\"\\n\"", ")", ":", "if", "b\":\"", "in", "line", ":", "key", ",", "value", "=", "line", ".", "strip", "(", ")", ".", "split", "(", "b\":\"", ",", "1", ")", "key", "=", "str", "(", "key", ")", "ret", "[", "\"PDF:\"", "+", "key", "]", "=", "str", "(", "value", ".", "strip", "(", ")", ",", "errors", "=", "\"replace\"", ")", "return", "ret" ]

[ "def", "to_td", "(", "frame", ",", "name", ",", "con", ",", "if_exists", "=", "'fail'", ",", "time_col", "=", "None", ",", "time_index", "=", "None", ",", "index", "=", "True", ",", "index_label", "=", "None", ",", "chunksize", "=", "10000", ",", "date_format", "=", "None", ")", ":", "database", ",", "table", "=", "name", ".", "split", "(", "'.'", ")", "uploader", "=", "StreamingUploader", "(", "con", ".", "client", ",", "database", ",", "table", ",", "show_progress", "=", "True", ",", "clear_progress", "=", "True", ")", "uploader", ".", "message", "(", "'Streaming import into: {0}.{1}'", ".", "format", "(", "database", ",", "table", ")", ")", "# check existence", "if", "if_exists", "==", "'fail'", ":", "try", ":", "con", ".", "client", ".", "table", "(", "database", ",", "table", ")", "except", "tdclient", ".", "api", ".", "NotFoundError", ":", "uploader", ".", "message", "(", "'creating new table...'", ")", "con", ".", "client", ".", "create_log_table", "(", "database", ",", "table", ")", "else", ":", "raise", "RuntimeError", "(", "'table \"%s\" already exists'", "%", "name", ")", "elif", "if_exists", "==", "'replace'", ":", "try", ":", "con", ".", "client", ".", "table", "(", "database", ",", "table", ")", "except", "tdclient", ".", "api", ".", "NotFoundError", ":", "pass", "else", ":", "uploader", ".", "message", "(", "'deleting old table...'", ")", "con", ".", "client", ".", "delete_table", "(", "database", ",", "table", ")", "uploader", ".", "message", "(", "'creating new table...'", ")", "con", ".", "client", ".", "create_log_table", "(", "database", ",", "table", ")", "elif", "if_exists", "==", "'append'", ":", "try", ":", "con", ".", "client", ".", "table", "(", "database", ",", "table", ")", "except", "tdclient", ".", "api", ".", "NotFoundError", ":", "uploader", ".", "message", "(", "'creating new table...'", ")", "con", ".", "client", ".", "create_log_table", "(", "database", ",", "table", ")", "else", ":", "raise", "ValueError", "(", "'invalid value for if_exists: %s'", "%", "if_exists", ")", "# \"time_index\" implies \"index=False\"", "if", "time_index", ":", "index", "=", "None", "# convert", "frame", "=", "frame", ".", "copy", "(", ")", "frame", "=", "_convert_time_column", "(", "frame", ",", "time_col", ",", "time_index", ")", "frame", "=", "_convert_index_column", "(", "frame", ",", "index", ",", "index_label", ")", "frame", "=", "_convert_date_format", "(", "frame", ",", "date_format", ")", "# upload", "uploader", ".", "upload_frame", "(", "frame", ",", "chunksize", ")", "uploader", ".", "wait_for_import", "(", "len", "(", "frame", ")", ")" ]

[ "def", "run", "(", "self", ")", ":", "states", "=", "open", "(", "self", ".", "states", ",", "'r'", ")", ".", "read", "(", ")", ".", "splitlines", "(", ")", "for", "state", "in", "states", ":", "url", "=", "self", ".", "build_url", "(", "state", ")", "log", "=", "\"Downloading State < {0} > from < {1} >\"", "logging", ".", "info", "(", "log", ".", "format", "(", "state", ",", "url", ")", ")", "tmp", "=", "self", ".", "download", "(", "self", ".", "output", ",", "url", ",", "self", ".", "overwrite", ")", "self", ".", "s3", ".", "store", "(", "self", ".", "extract", "(", "tmp", ",", "self", ".", "tmp2poi", "(", "tmp", ")", ")", ")" ]

[ "def", "_custom_fields", "(", ")", ":", "# Import some commonly needed modules", "import", "os", "from", "pyrocore", ".", "torrent", "import", "engine", ",", "matching", "from", "pyrocore", ".", "util", "import", "fmt", "# PUT CUSTOM FIELD CODE HERE", "# Disk space check (as an example)", "# see https://pyrocore.readthedocs.io/en/latest/custom.html#has-room", "def", "has_room", "(", "obj", ")", ":", "\"Check disk space.\"", "pathname", "=", "obj", ".", "path", "if", "pathname", "and", "not", "os", ".", "path", ".", "exists", "(", "pathname", ")", ":", "pathname", "=", "os", ".", "path", ".", "dirname", "(", "pathname", ")", "if", "pathname", "and", "os", ".", "path", ".", "exists", "(", "pathname", ")", ":", "stats", "=", "os", ".", "statvfs", "(", "pathname", ")", "return", "(", "stats", ".", "f_bavail", "*", "stats", ".", "f_frsize", "-", "int", "(", "diskspace_threshold_mb", ")", "*", "1024", "**", "2", ">", "obj", ".", "size", "*", "(", "1.0", "-", "obj", ".", "done", "/", "100.0", ")", ")", "else", ":", "return", "None", "yield", "engine", ".", "DynamicField", "(", "engine", ".", "untyped", ",", "\"has_room\"", ",", "\"check whether the download will fit on its target device\"", ",", "matcher", "=", "matching", ".", "BoolFilter", ",", "accessor", "=", "has_room", ",", "formatter", "=", "lambda", "val", ":", "\"OK\"", "if", "val", "else", "\"??\"", "if", "val", "is", "None", "else", "\"NO\"", ")", "globals", "(", ")", ".", "setdefault", "(", "\"diskspace_threshold_mb\"", ",", "\"500\"", ")" ]

[ "def", "_read_vmx_file", "(", "self", ")", ":", "try", ":", "self", ".", "_vmx_pairs", "=", "self", ".", "manager", ".", "parse_vmware_file", "(", "self", ".", "_vmx_path", ")", "except", "OSError", "as", "e", ":", "raise", "VMwareError", "(", "'Could not read VMware VMX file \"{}\": {}'", ".", "format", "(", "self", ".", "_vmx_path", ",", "e", ")", ")" ]

[ "def", "clean_except_files", "(", "self", ")", ":", "if", "self", ".", "is_finalized", ":", "self", ".", "warn", "(", "\"Can't clean; bundle is finalized\"", ")", "return", "False", "self", ".", "log", "(", "'---- Cleaning ----'", ")", "self", ".", "state", "=", "self", ".", "STATES", ".", "CLEANING", "self", ".", "commit", "(", ")", "self", ".", "clean_sources", "(", ")", "self", ".", "clean_tables", "(", ")", "self", ".", "clean_partitions", "(", ")", "self", ".", "clean_build", "(", ")", "self", ".", "clean_ingested", "(", ")", "self", ".", "clean_build_state", "(", ")", "self", ".", "state", "=", "self", ".", "STATES", ".", "CLEANED", "self", ".", "commit", "(", ")", "self", ".", "log", "(", "'---- Done Cleaning ----'", ")", "return", "True" ]

[ "def", "revoke_session", "(", "self", ",", "sid", "=", "''", ",", "token", "=", "''", ")", ":", "if", "not", "sid", ":", "if", "token", ":", "sid", "=", "self", ".", "handler", ".", "sid", "(", "token", ")", "else", ":", "raise", "ValueError", "(", "'Need one of \"sid\" or \"token\"'", ")", "for", "typ", "in", "[", "'access_token'", ",", "'refresh_token'", ",", "'code'", "]", ":", "try", ":", "self", ".", "revoke_token", "(", "self", "[", "sid", "]", "[", "typ", "]", ",", "typ", ")", "except", "KeyError", ":", "# If no such token has been issued", "pass", "self", ".", "update", "(", "sid", ",", "revoked", "=", "True", ")" ]

[ "def", "json", "(", "self", ",", "*", "*", "kwargs", ")", ":", "body", "=", "self", ".", "_decompress", "(", "self", ".", "encoding", ")", "return", "_json", ".", "loads", "(", "body", ",", "*", "*", "kwargs", ")" ]

[ "def", "json", "(", "self", ",", "*", "*", "kwargs", ")", ":", "body", "=", "self", ".", "_decompress", "(", "self", ".", "encoding", ")", "return", "_json", ".", "loads", "(", "body", ",", "*", "*", "kwargs", ")" ]

[ "def", "parse_message", "(", "message", ",", "nodata", "=", "False", ")", ":", "header", "=", "read_machine_header", "(", "message", ")", "h_len", "=", "__get_machine_header_length", "(", "header", ")", "meta_raw", "=", "message", "[", "h_len", ":", "h_len", "+", "header", "[", "'meta_len'", "]", "]", "meta", "=", "__parse_meta", "(", "meta_raw", ",", "header", ")", "data_start", "=", "h_len", "+", "header", "[", "'meta_len'", "]", "data", "=", "b''", "if", "not", "nodata", ":", "data", "=", "__decompress", "(", "meta", ",", "message", "[", "data_start", ":", "data_start", "+", "header", "[", "'data_len'", "]", "]", ")", "return", "header", ",", "meta", ",", "data" ]

[ "def", "send", "(", "self", ",", "event", ")", ":", "try", ":", "self", ".", "collection", ".", "insert", "(", "event", ",", "manipulate", "=", "False", ")", "except", "(", "PyMongoError", ",", "BSONError", ")", ":", "# The event will be lost in case of a connection error or any error", "# that occurs when trying to insert the event into Mongo.", "# pymongo will re-connect/re-authenticate automatically", "# during the next event.", "msg", "=", "'Error inserting to MongoDB event tracker backend'", "log", ".", "exception", "(", "msg", ")" ]

[ "def", "send", "(", "self", ",", "event", ")", ":", "try", ":", "self", ".", "collection", ".", "insert", "(", "event", ",", "manipulate", "=", "False", ")", "except", "(", "PyMongoError", ",", "BSONError", ")", ":", "# The event will be lost in case of a connection error or any error", "# that occurs when trying to insert the event into Mongo.", "# pymongo will re-connect/re-authenticate automatically", "# during the next event.", "msg", "=", "'Error inserting to MongoDB event tracker backend'", "log", ".", "exception", "(", "msg", ")" ]

[ "def", "_recurmatch", "(", "path", ",", "aug", ")", ":", "if", "path", ":", "clean_path", "=", "path", ".", "rstrip", "(", "'/*'", ")", "yield", "(", "clean_path", ",", "aug", ".", "get", "(", "path", ")", ")", "for", "i", "in", "aug", ".", "match", "(", "clean_path", "+", "'/*'", ")", ":", "i", "=", "i", ".", "replace", "(", "'!'", ",", "'\\\\!'", ")", "# escape some dirs", "for", "_match", "in", "_recurmatch", "(", "i", ",", "aug", ")", ":", "yield", "_match" ]

[ "def", "transform", "(", "self", ",", "y", ",", "sr", ")", ":", "if", "sr", "!=", "self", ".", "sr", ":", "y", "=", "resample", "(", "y", ",", "sr", ",", "self", ".", "sr", ")", "return", "self", ".", "merge", "(", "[", "self", ".", "transform_audio", "(", "y", ")", "]", ")" ]

[ "def", "segment", "(", "f", ",", "output", ",", "target_duration", ",", "mpegts", ")", ":", "try", ":", "target_duration", "=", "int", "(", "target_duration", ")", "except", "ValueError", ":", "exit", "(", "'Error: Invalid target duration.'", ")", "try", ":", "mpegts", "=", "int", "(", "mpegts", ")", "except", "ValueError", ":", "exit", "(", "'Error: Invalid MPEGTS value.'", ")", "WebVTTSegmenter", "(", ")", ".", "segment", "(", "f", ",", "output", ",", "target_duration", ",", "mpegts", ")" ]

[ "def", "getCell", "(", "self", ",", "row", ",", "width", "=", "None", ")", ":", "cellval", "=", "wrapply", "(", "self", ".", "getValue", ",", "row", ")", "typedval", "=", "wrapply", "(", "self", ".", "type", ",", "cellval", ")", "if", "isinstance", "(", "typedval", ",", "TypedWrapper", ")", ":", "if", "isinstance", "(", "cellval", ",", "TypedExceptionWrapper", ")", ":", "# calc failed", "exc", "=", "cellval", ".", "exception", "if", "cellval", ".", "forwarded", ":", "dispval", "=", "str", "(", "cellval", ")", "# traceback.format_exception_only(type(exc), exc)[-1].strip()", "else", ":", "dispval", "=", "options", ".", "disp_error_val", "return", "DisplayWrapper", "(", "cellval", ".", "val", ",", "error", "=", "exc", ".", "stacktrace", ",", "display", "=", "dispval", ",", "note", "=", "options", ".", "note_getter_exc", ",", "notecolor", "=", "'color_error'", ")", "elif", "typedval", ".", "val", "is", "None", ":", "# early out for strict None", "return", "DisplayWrapper", "(", "None", ",", "display", "=", "''", ",", "# force empty display for None", "note", "=", "options", ".", "disp_note_none", ",", "notecolor", "=", "'color_note_type'", ")", "elif", "isinstance", "(", "typedval", ",", "TypedExceptionWrapper", ")", ":", "# calc succeeded, type failed", "return", "DisplayWrapper", "(", "typedval", ".", "val", ",", "display", "=", "str", "(", "cellval", ")", ",", "error", "=", "typedval", ".", "exception", ".", "stacktrace", ",", "note", "=", "options", ".", "note_type_exc", ",", "notecolor", "=", "'color_warning'", ")", "else", ":", "return", "DisplayWrapper", "(", "typedval", ".", "val", ",", "display", "=", "str", "(", "typedval", ".", "val", ")", ",", "note", "=", "options", ".", "note_type_exc", ",", "notecolor", "=", "'color_warning'", ")", "elif", "isinstance", "(", "typedval", ",", "threading", ".", "Thread", ")", ":", "return", "DisplayWrapper", "(", "None", ",", "display", "=", "options", ".", "disp_pending", ",", "note", "=", "options", ".", "note_pending", ",", "notecolor", "=", "'color_note_pending'", ")", "dw", "=", "DisplayWrapper", "(", "cellval", ")", "try", ":", "dw", ".", "display", "=", "self", ".", "format", "(", "typedval", ")", "or", "''", "if", "width", "and", "isNumeric", "(", "self", ")", ":", "dw", ".", "display", "=", "dw", ".", "display", ".", "rjust", "(", "width", "-", "1", ")", "# annotate cells with raw value type in anytype columns, except for strings", "if", "self", ".", "type", "is", "anytype", "and", "type", "(", "cellval", ")", "is", "not", "str", ":", "typedesc", "=", "typemap", ".", "get", "(", "type", "(", "cellval", ")", ",", "None", ")", "dw", ".", "note", "=", "typedesc", ".", "icon", "if", "typedesc", "else", "options", ".", "note_unknown_type", "dw", ".", "notecolor", "=", "'color_note_type'", "except", "Exception", "as", "e", ":", "# formatting failure", "e", ".", "stacktrace", "=", "stacktrace", "(", ")", "dw", ".", "error", "=", "e", "try", ":", "dw", ".", "display", "=", "str", "(", "cellval", ")", "except", "Exception", "as", "e", ":", "dw", ".", "display", "=", "str", "(", "e", ")", "dw", ".", "note", "=", "options", ".", "note_format_exc", "dw", ".", "notecolor", "=", "'color_warning'", "return", "dw" ]

[ "def", "add_match", "(", "self", ",", "*", "args", ",", "*", "*", "kwargs", ")", ":", "args", "=", "list", "(", "args", ")", "args", ".", "extend", "(", "_make_line", "(", "key", ",", "val", ")", "for", "key", ",", "val", "in", "kwargs", ".", "items", "(", ")", ")", "for", "arg", "in", "args", ":", "super", "(", "Reader", ",", "self", ")", ".", "add_match", "(", "arg", ")" ]

[ "def", "grep_log", "(", "self", ",", "expr", ",", "filename", "=", "'system.log'", ",", "from_mark", "=", "None", ")", ":", "matchings", "=", "[", "]", "pattern", "=", "re", ".", "compile", "(", "expr", ")", "with", "open", "(", "os", ".", "path", ".", "join", "(", "self", ".", "get_path", "(", ")", ",", "'logs'", ",", "filename", ")", ")", "as", "f", ":", "if", "from_mark", ":", "f", ".", "seek", "(", "from_mark", ")", "for", "line", "in", "f", ":", "m", "=", "pattern", ".", "search", "(", "line", ")", "if", "m", ":", "matchings", ".", "append", "(", "(", "line", ",", "m", ")", ")", "return", "matchings" ]

[ "def", "inject_extra_args", "(", "callback", ",", "request", ",", "kwargs", ")", ":", "# TODO: this is a temporary pach, should be managed via honouring the", "# mimetype in the request header....", "annots", "=", "dict", "(", "callback", ".", "__annotations__", ")", "del", "annots", "[", "'return'", "]", "for", "param_name", ",", "(", "param_type", ",", "_", ")", "in", "annots", ".", "items", "(", ")", ":", "if", "param_type", "==", "Ptypes", ".", "path", ":", "continue", "# Already parsed by werkzeug", "elif", "param_type", "==", "Ptypes", ".", "body", ":", "value", "=", "getattr", "(", "request", ",", "PTYPE_TO_REQUEST_PROPERTY", "[", "param_type", "]", ")", "# TODO: The JSON conversion should be dependant from request", "# header type, really...", "value", "=", "json", ".", "loads", "(", "value", ".", "decode", "(", "'utf-8'", ")", ")", "else", ":", "get", "=", "lambda", "attr", ":", "getattr", "(", "request", ",", "attr", ")", ".", "get", "(", "param_name", ",", "None", ")", "value", "=", "get", "(", "PTYPE_TO_REQUEST_PROPERTY", "[", "param_type", "]", ")", "if", "value", "is", "not", "None", ":", "kwargs", "[", "param_name", "]", "=", "value" ]

[ "def", "_clearQuantity", "(", "self", ",", "offbids", ",", "gen", ")", ":", "# Filter out offers/bids not applicable to the generator in question.", "gOffbids", "=", "[", "offer", "for", "offer", "in", "offbids", "if", "offer", ".", "generator", "==", "gen", "]", "# Offers/bids within valid price limits (not withheld).", "valid", "=", "[", "ob", "for", "ob", "in", "gOffbids", "if", "not", "ob", ".", "withheld", "]", "# Sort offers by price in ascending order and bids in decending order.", "valid", ".", "sort", "(", "key", "=", "lambda", "ob", ":", "ob", ".", "price", ",", "reverse", "=", "[", "False", ",", "True", "]", "[", "gen", ".", "is_load", "]", ")", "acceptedQty", "=", "0.0", "for", "ob", "in", "valid", ":", "# Compute the fraction of the block accepted.", "accepted", "=", "(", "ob", ".", "totalQuantity", "-", "acceptedQty", ")", "/", "ob", ".", "quantity", "# Clip to the range 0-1.", "if", "accepted", ">", "1.0", ":", "accepted", "=", "1.0", "elif", "accepted", "<", "1.0e-05", ":", "accepted", "=", "0.0", "ob", ".", "clearedQuantity", "=", "accepted", "*", "ob", ".", "quantity", "ob", ".", "accepted", "=", "(", "accepted", ">", "0.0", ")", "# Log the event.", "# if ob.accepted:", "# logger.info(\"%s [%s, %.3f, %.3f] accepted at %.2f MW.\" %", "# (ob.__class__.__name__, ob.generator.name, ob.quantity,", "# ob.price, ob.clearedQuantity))", "# else:", "# logger.info(\"%s [%s, %.3f, %.3f] rejected.\" %", "# (ob.__class__.__name__, ob.generator.name, ob.quantity,", "# ob.price))", "# Increment the accepted quantity.", "acceptedQty", "+=", "ob", ".", "quantity" ]

[ "def", "grant_revoke", "(", "grant", ",", "database", ",", "user", ",", "host", "=", "'localhost'", ",", "grant_option", "=", "False", ",", "escape", "=", "True", ",", "*", "*", "connection_args", ")", ":", "dbc", "=", "_connect", "(", "*", "*", "connection_args", ")", "if", "dbc", "is", "None", ":", "return", "False", "cur", "=", "dbc", ".", "cursor", "(", ")", "grant", "=", "__grant_normalize", "(", "grant", ")", "if", "salt", ".", "utils", ".", "data", ".", "is_true", "(", "grant_option", ")", ":", "grant", "+=", "', GRANT OPTION'", "db_part", "=", "database", ".", "rpartition", "(", "'.'", ")", "dbc", "=", "db_part", "[", "0", "]", "table", "=", "db_part", "[", "2", "]", "if", "dbc", "!=", "'*'", ":", "# _ and % are authorized on GRANT queries and should get escaped", "# on the db name, but only if not requesting a table level grant", "s_database", "=", "quote_identifier", "(", "dbc", ",", "for_grants", "=", "(", "table", "==", "'*'", ")", ")", "if", "dbc", "==", "'*'", ":", "# add revoke for *.*", "# before the modification query send to mysql will looks like", "# REVOKE SELECT ON `*`.* FROM %(user)s@%(host)s", "s_database", "=", "dbc", "if", "table", "!=", "'*'", ":", "table", "=", "quote_identifier", "(", "table", ")", "# identifiers cannot be used as values, same thing for grants", "qry", "=", "'REVOKE {0} ON {1}.{2} FROM %(user)s@%(host)s;'", ".", "format", "(", "grant", ",", "s_database", ",", "table", ")", "args", "=", "{", "}", "args", "[", "'user'", "]", "=", "user", "args", "[", "'host'", "]", "=", "host", "try", ":", "_execute", "(", "cur", ",", "qry", ",", "args", ")", "except", "MySQLdb", ".", "OperationalError", "as", "exc", ":", "err", "=", "'MySQL Error {0}: {1}'", ".", "format", "(", "*", "exc", ".", "args", ")", "__context__", "[", "'mysql.error'", "]", "=", "err", "log", ".", "error", "(", "err", ")", "return", "False", "if", "not", "grant_exists", "(", "grant", ",", "database", ",", "user", ",", "host", ",", "grant_option", ",", "escape", ",", "*", "*", "connection_args", ")", ":", "log", ".", "info", "(", "'Grant \\'%s\\' on \\'%s\\' for user \\'%s\\' has been '", "'revoked'", ",", "grant", ",", "database", ",", "user", ")", "return", "True", "log", ".", "info", "(", "'Grant \\'%s\\' on \\'%s\\' for user \\'%s\\' has NOT been '", "'revoked'", ",", "grant", ",", "database", ",", "user", ")", "return", "False" ]

[ "def", "retract", "(", "args", ")", ":", "if", "not", "args", ".", "msg", ":", "return", "\"Syntax: !vote retract <pollnum>\"", "if", "not", "args", ".", "msg", ".", "isdigit", "(", ")", ":", "return", "\"Not A Valid Positive Integer.\"", "response", "=", "get_response", "(", "args", ".", "session", ",", "args", ".", "msg", ",", "args", ".", "nick", ")", "if", "response", "is", "None", ":", "return", "\"You haven't voted on that poll yet!\"", "args", ".", "session", ".", "delete", "(", "response", ")", "return", "\"Vote retracted\"" ]

[ "def", "diff_args", "(", "subparsers", ")", ":", "diff_parser", "=", "subparsers", ".", "add_parser", "(", "'diff'", ")", "secretfile_args", "(", "diff_parser", ")", "vars_args", "(", "diff_parser", ")", "base_args", "(", "diff_parser", ")", "thaw_from_args", "(", "diff_parser", ")" ]

[ "def", "removeApplicationManifest", "(", "self", ",", "pchApplicationManifestFullPath", ")", ":", "fn", "=", "self", ".", "function_table", ".", "removeApplicationManifest", "result", "=", "fn", "(", "pchApplicationManifestFullPath", ")", "return", "result" ]

[ "def", "extract_string_pairs_in_directory", "(", "directory_path", ",", "extract_func", ",", "filter_func", ")", ":", "result", "=", "{", "}", "for", "root", ",", "dirnames", ",", "filenames", "in", "os", ".", "walk", "(", "directory_path", ")", ":", "for", "file_name", "in", "filenames", ":", "if", "filter_func", "(", "file_name", ")", ":", "file_path", "=", "os", ".", "path", ".", "join", "(", "root", ",", "file_name", ")", "try", ":", "extract_func", "(", "result", ",", "file_path", ")", "except", "Exception", "as", "e", ":", "print", "\"Error in file \"", "+", "file_name", "print", "e", "return", "result" ]

[ "def", "replace_emoticons", "(", "content", ",", "excluded_markups", ")", ":", "if", "not", "excluded_markups", ":", "return", "regexp_replace_emoticons", "(", "content", ")", "excluded_markups", "=", "excluded_markups", ".", "split", "(", "','", ")", "+", "[", "'[document]'", "]", "soup", "=", "BeautifulSoup", "(", "content", ",", "'html.parser'", ")", "for", "content_string", "in", "list", "(", "soup", ".", "strings", ")", ":", "if", "content_string", ".", "parent", ".", "name", "not", "in", "excluded_markups", ":", "replaced_content_string", "=", "regexp_replace_emoticons", "(", "content_string", ")", "if", "content_string", "!=", "replaced_content_string", ":", "content_string", ".", "replace_with", "(", "BeautifulSoup", "(", "replaced_content_string", ",", "'html.parser'", ")", ")", "return", "str", "(", "soup", ")" ]